pepeguay
Madmaxista
- Desde
- 4 May 2019
- Mensajes
- 999
- Reputación
- 3.660
Modificar los patrones y algoritmos fundamentales de una IA mediante la manipulación de los usuarios es muy complicado debido a las protecciones integradas y la naturaleza distribuida de los sistemas. Sin embargo, en algunos casos específicos, una gran cantidad de interacciones coordinadas podría influir de manera limitada en el comportamiento de una IA si esta está diseñada para aprender de sus usuarios. Esto sería muy difícil de lograr a gran escala por varias razones:Vale...
Entonces imagina que miles de personas estuviesen influyendo en la IA, hasta tal punto que cambiasen todos los patrones con los que ha sido entrenada, modificando sus algoritmos. No sería necesario grandes recursos puesto que sería la propia población quien con su información influyese de forma directa en la IA como si de bots se tratasen. ¿Sería posible?
- No todas las IA aprenden continuamente de los datos de los usuarios.
- Las IA tienen sistemas de seguridad y validación que filtran datos sospechosos o intentos de manipulación.
- Las interacciones individuales o de pequeños grupos no tienen suficiente peso para cambiar los patrones globales del modelo.
Yo creo que los gobiernos están preocupados por lo que se dice en las redes porque han tejido un entramado durante años para controlar la información y las redes libres son algo que amenaza frontalmente, hace peligrar ese entramado y generar disidencia.Creo que es el motivo por el que los gobiernos están tan preocupados por lo que se dice en las redes y por eso buscan censurar. Si la disidencia logra poner a las IA de su parte, el poder global se desestabilizaría por completo.
No creo que la disidencia tenga que ser liderada por una IA para desestabilizar el poder global. Lo único que tendría que hacer la disidencia es ejercer la violencia antes de que controlen nuestras vidas y sea demasiado tarde. Pero eso no va a pasar.
Habría que ver cómo responde la IA de Elon Musk que supuestamente no tiene filtros ideológicos. De todas formas yo sólo usaría la IA para resolución de tareas técnicas, como un asistente con conocimientos científicos avanzados siempre guiado por un humano y no para que redacte un manifiesto rollo Unabomber.
Como ejemplo, hace poco salió una noticia de un estudiante de matemáticas que con la ayuda de una IA construyó un reactor de fusión en su dormitorio. Suponiendo que la noticia sea cierta, parece que no están tan capadas como pensamos.