A ver. Detrás el abuso de las palabras como "microcosmos" y todo eso, creo que tu crítica es:
"Tendremos algo 'inteligente' pero no la entenderemos y no nos servirá"
Quizás no te haya entendido bien, pero eso es lo que creo que me has dicho con ese tocho.
Pues lo discuto. Primero, nos vale con tener una "caja mágica" que obtiene el resultado correcto. Obviamente, no está exento de riesgos no entender cómo lo obtiene, pues no sabremos si es correcto.
Pero pasa muchas veces lo mismo con el ser humano y sus capacidades. La inmensa mayoría de la población no entiende muchas cosas de la ciencia, y eso no les quita que pueden disfrutar de sus resultados.
Segundo... en muchas circunstancias obtener el resultado y confirmar la veracidad/objetivo del resultado es diferente. En esas circunstancias, ese problema NO existe. Obviamente nos gustaría saber cada paso de cada cosa, pero incluso si eso no es posible, sigue siendo útil poder obtener respuestas "mágicas".
Pues muy obvio. Como construir una IA que da resultado excelente en matrices de parámetros de este tipo de problemas.
Fíjate como los de Google han ido adaptando esa IA débil a diferentes fuentes de parámetros diferentes.
Dices... ¿Y para qué vale una IA que gana a StarCraft?
Pues muy sencillo. Convierte la fuente de datos del mundo real en un mapa virtual de un juego similar, y verás como la IA es capaz de controlar/dirigir tropas de forma eficiente, igual que un jugador experto.
Obviamente no funcionará si la reducción de datos de representación del mundo real difiere demasiado de las reglas del mundo virtual. Pero obviamente NO vas a comandar tropas y recursos reales con datos de StarCraft, sino con simulaciones de batallas reales haciendo una simplificación de los datos de forma que conserven su utilidad, pero sean lo suficientemente representativa de las condiciones reales.
De esa forma la IA puede comandar tropas, evitar encerronas y hacer previsiones de resultados como el mejor de los comandantes.
¿Eso no es útil?
Y te digo esto porque el caso de StarCraft II - AlphaZero ha existido realmente. Pero no es diferente para usos civiles, no necesariamente militares. Algo tan sencillo como prever accidentes, estimar el camino óptimo para realizar tareas, etc. es muy útil en ingeniería por ejemplo.
No será nada raro que en un futuro próximo las cosas sean al contrario de como mucho se las imaginan. Se imaginan un tipo diciendo a los robots que hacer, cuando es bastante posible que pueda ocurrir lo contrario. Una IA controlando el proceso de ingeniería, diciendo a los trabajadores con gafas de realidad aumentada que hacer en cada sitio.
Desde luego, una versión derivada de la AlphaZero podría hacer eso en diversos proyectos de ingeniería.
Y similar con medicina. Una IA dirigiendo a un cirujano, porque tiene más "experiencia" y más "ojos" que este, para decirle donde tiene que cortar.
Obviamente, si a esa IA le agregas un cirujano robótico, al final el médico ni es necesario. Pero es bueno que supervise a la IA, ya que la IA no sabe si lo que hace es "correcto" en el mismo sentido que el ser humano, sino sólo "correcto" desde su función o memoria de datos de lo que significa tal cosa.
