Lord Yavestruc
Técnico del servidor de querido líder.
Hace tiempo que nadie postea algún artículo de fin del mundo por la IA. Aunque el artículo trata de eso, casi me parece más interesante la primera parte de este artículo, donde hablan de las redes sociales:
Cientos de científicos, ingenieros e informáticos que durante años han trabajado e impulsado el mundo de la Inteligencia Artificial han abandonado el sector alertando de los peligros que supone su avance
Esta semana, el 'padrino de la Inteligencia Artificial', Geoffrey Hinton, abandonó Google, donde durante años había promovido esta tecnología, alertando de los peligros que veía en ella. Una noticia sorprendente si se ve de manera aislada, pero poco extraña si se compara con otros cientos de científicos, ingenieros e informáticos que trabajaron e impulsaron la IA y finalmente dejaron el sector alarmando de los peligros que supone su avance.
En el año de la esa época en el 2020 de la que yo le hablo salió un documental que revolucionó la sociedad, enganchada y adicta a las redes sociales, a los teléfonos y las pantallas. Se llamaba "El dilema de las redes sociales" y en él, antiguos trabajadores de Facebook, desencatados y "espantados" por lo que su sueño era realmente, contaban los secretos de los dueños de las redes sociales para enganchar y manipular la sociedad.
Una de las frases que más reflejan lo que para muchos supone el avance de las inteligencias artificiales la dijo uno de sus protagonistas en este documental: "Hay dos industrias que llaman a sus clientes usuarios: la de las drojas ilegales y la del software". Y lo dijo precisamente un hombre que durante años formó parte de esa industria, convencido de sus maravillas.
Los peligros que señalan los expertos arrepentidos de su pasado (principalmente, trabajadores de Facebook, Twitter y Google) en pro de la tecnología son principalmente seis.
Que el objetivo es robar el tiempo de las personas, "una moneda valiosa para empresas, políticos, organizaciones o países que quieran vender productos o ideas a audiencias vulnerables e hipersegmentadas"; que "si no pagas el producto, es que tú eres el producto"; que las herramientas están diseñadas para enganchar y manipular, como ocurre con la droja; que nos engañan con falsas recompensas, creando métodos de navegación capaces de estimular la circulación de la dopamina a niveles sin precedentes; que nos venden seguridad por inseguridad (sobre todo por los peligros psicológicos) y que las noticias falsas se propagan seis veces más rápido que las verdaderas.
Años atrás, Stephen Hawking, uno de los grandes científicos de la historia, también mostró su rechazo a lo que ya entonces veía como el imparable avance de la IA. Entonces dijo que los esfuerzos por crear máquinas inteligentes representan una amenaza para la humanidad. Concretamente, el científico, que precisamente utilizaba una IA para comunicarse debido a la enfermedad que padecía, aseguró que "el desarrollo de una completa inteligencia artificial (IA) podría traducirse en el fin de la raza humana".
Para Hawking la inteligencia artificial desarrollada hasta ese momento había demostrado ser muy útil, pero temía que una versión más desarrollada pudiera "decidir rediseñarse por cuenta propia e incluso llegar a un nivel superior". "Los humanos, que son seres limitados por su lenta evolución biológica, no podrán competir con las máquinas, y serán superados", aseguró el científico.
Este mismo año, en marzo, el propio Elon Musk, magnate de la tecnología y de la ciencia, pidió a través de una carta junto con otro grupo de científicos, que se suspendan durante seis meses los experimentos con inteligencia artificial muy potente porque consideran que "pueden plantear profundos riesgos para la sociedad y la humanidad".
"La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados", dice la carta abierta publicada por el organismo sin ánimo de lucro Future of Life Institute.
No son los únicos preocupados. En febrero, Sam Altman, consejero delegado de OpenAI, empresa desarrolladora de ChatGPT, afirmó que el mundo podría no estar "tan lejos de herramientas de IA potencialmente aterradoras" y que la regulación sería fundamental, pero que llevaría tiempo resolverla.
Los peligros de la IA que destaca Hinton
El último científico que desde dentro del sector tecnológico pide el fin del avance de los robots y de las inteligencias ha sido precisamente el 'padrino en Google de las IA's'. El experto ha contado en una entrevista que de repente "ha cambiado de opinión sobre si estas cosas van a ser más inteligentes que nosotros". "Creo que ahora están muy cerca de ello y que en el futuro serán mucho más inteligentes que nosotros... ¿Cómo sobreviviremos a eso?", ha expresado.
Para él, los problemas que plantea esta tecnología son principalmente cuatro, muy similares a los que dicen los extrabajadores de Facebook. Que es posible que la IA sea más inteligente que nosotros los humanos, que puede sobre alimentar la difusión de información falsa, que provocará la destrucción de miles de empleos (como contamos en este periódico, la Inteligencia Artificial destruirá uno de cada cuatro empleos actuales en España) y que ni los más expertos saben cómo detenerlo.
Fuente: Las alertas sobre la IA de los científicos 'arrepentidos': "Será el fin de la raza humana"
Cientos de científicos, ingenieros e informáticos que durante años han trabajado e impulsado el mundo de la Inteligencia Artificial han abandonado el sector alertando de los peligros que supone su avance
Esta semana, el 'padrino de la Inteligencia Artificial', Geoffrey Hinton, abandonó Google, donde durante años había promovido esta tecnología, alertando de los peligros que veía en ella. Una noticia sorprendente si se ve de manera aislada, pero poco extraña si se compara con otros cientos de científicos, ingenieros e informáticos que trabajaron e impulsaron la IA y finalmente dejaron el sector alarmando de los peligros que supone su avance.
En el año de la esa época en el 2020 de la que yo le hablo salió un documental que revolucionó la sociedad, enganchada y adicta a las redes sociales, a los teléfonos y las pantallas. Se llamaba "El dilema de las redes sociales" y en él, antiguos trabajadores de Facebook, desencatados y "espantados" por lo que su sueño era realmente, contaban los secretos de los dueños de las redes sociales para enganchar y manipular la sociedad.
Una de las frases que más reflejan lo que para muchos supone el avance de las inteligencias artificiales la dijo uno de sus protagonistas en este documental: "Hay dos industrias que llaman a sus clientes usuarios: la de las drojas ilegales y la del software". Y lo dijo precisamente un hombre que durante años formó parte de esa industria, convencido de sus maravillas.
Los peligros que señalan los expertos arrepentidos de su pasado (principalmente, trabajadores de Facebook, Twitter y Google) en pro de la tecnología son principalmente seis.
Que el objetivo es robar el tiempo de las personas, "una moneda valiosa para empresas, políticos, organizaciones o países que quieran vender productos o ideas a audiencias vulnerables e hipersegmentadas"; que "si no pagas el producto, es que tú eres el producto"; que las herramientas están diseñadas para enganchar y manipular, como ocurre con la droja; que nos engañan con falsas recompensas, creando métodos de navegación capaces de estimular la circulación de la dopamina a niveles sin precedentes; que nos venden seguridad por inseguridad (sobre todo por los peligros psicológicos) y que las noticias falsas se propagan seis veces más rápido que las verdaderas.
Años atrás, Stephen Hawking, uno de los grandes científicos de la historia, también mostró su rechazo a lo que ya entonces veía como el imparable avance de la IA. Entonces dijo que los esfuerzos por crear máquinas inteligentes representan una amenaza para la humanidad. Concretamente, el científico, que precisamente utilizaba una IA para comunicarse debido a la enfermedad que padecía, aseguró que "el desarrollo de una completa inteligencia artificial (IA) podría traducirse en el fin de la raza humana".
Para Hawking la inteligencia artificial desarrollada hasta ese momento había demostrado ser muy útil, pero temía que una versión más desarrollada pudiera "decidir rediseñarse por cuenta propia e incluso llegar a un nivel superior". "Los humanos, que son seres limitados por su lenta evolución biológica, no podrán competir con las máquinas, y serán superados", aseguró el científico.
Este mismo año, en marzo, el propio Elon Musk, magnate de la tecnología y de la ciencia, pidió a través de una carta junto con otro grupo de científicos, que se suspendan durante seis meses los experimentos con inteligencia artificial muy potente porque consideran que "pueden plantear profundos riesgos para la sociedad y la humanidad".
"La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados", dice la carta abierta publicada por el organismo sin ánimo de lucro Future of Life Institute.
No son los únicos preocupados. En febrero, Sam Altman, consejero delegado de OpenAI, empresa desarrolladora de ChatGPT, afirmó que el mundo podría no estar "tan lejos de herramientas de IA potencialmente aterradoras" y que la regulación sería fundamental, pero que llevaría tiempo resolverla.
Los peligros de la IA que destaca Hinton
El último científico que desde dentro del sector tecnológico pide el fin del avance de los robots y de las inteligencias ha sido precisamente el 'padrino en Google de las IA's'. El experto ha contado en una entrevista que de repente "ha cambiado de opinión sobre si estas cosas van a ser más inteligentes que nosotros". "Creo que ahora están muy cerca de ello y que en el futuro serán mucho más inteligentes que nosotros... ¿Cómo sobreviviremos a eso?", ha expresado.
Para él, los problemas que plantea esta tecnología son principalmente cuatro, muy similares a los que dicen los extrabajadores de Facebook. Que es posible que la IA sea más inteligente que nosotros los humanos, que puede sobre alimentar la difusión de información falsa, que provocará la destrucción de miles de empleos (como contamos en este periódico, la Inteligencia Artificial destruirá uno de cada cuatro empleos actuales en España) y que ni los más expertos saben cómo detenerlo.
Fuente: Las alertas sobre la IA de los científicos 'arrepentidos': "Será el fin de la raza humana"
