Elon Musk, Steve Wozniak y otros 1.000 expertos en IA piden frenar el desarrollo de modelos más potentes que GPT-4 por posibles riesgos para la humani

Elon Musk, Steve Wozniak y otros 1.000 expertos en IA piden frenar el desarrollo de modelos más potentes que GPT-4 por posibles riesgos para la humanidad

Numerosos expertos llevan tiempo señalando los posibles riesgos que podría entrañar una tecnología como ChatGPT para el conjunto de la sociedad.
Ahora, un grupo de más de 1.000 personas, entre las que se encuentran expertos como Elon Musk, CEO de Tesla, o Emad Mostaque, director general de Stability AI, han firmado un manifiesto para detener durante 6 meses el desarrollo de la inteligencia artificial.


Elon Musk, CEO de Twitter, Tesla, y SpaceX, nunca ha escondido su preocupación ante el auge de la inteligencia artificial y de tecnologías como ChatGPT, y su última decisión de firmar un manifiesto para frenar su desarrollo parece consecuencia de esa postura.

Llama la atención que el director general de una empresa como Tesla, que emplea IA para el desarrollo del sistema de conducción autónoma de sus vehículos, y el empresario que ayudó a fundar la propia OpenAI, compañía desarrolladora de herramientas de inteligencia artificial generativa como ChatGPT o DALL-E, muestre tantas reservas frente a esta tecnología.

Sin embargo, Musk lleva tiempo alertando del peligro que podría suponer la IA para el conjunto de la sociedad. "Honestamente, creo que necesitamos regular la seguridad de la inteligencia artificial", apuntaba el multimillonario en una ocasión. "Creo que, en realidad, supone un riesgo mayor que los automóviles, los aviones o la medicina para la sociedad", añadía.

"Estoy un poco preocupado por las cosas de la IA", reconocía en otra ocasión. "Necesitamos algún tipo de autoridad reguladora o algo que supervise el desarrollo. Es una tecnología bastante peligrosa. Temo haber hecho algunas cosas para acelerarla".

El empresario no es el único que ha mostrado cierta preocupación ante el avance de la inteligencia artificial. Business Insider España ha consultado a varios expertos que han indicado que se debería apostar por alternativas de código abierto en las que estas herramientas no estén controladas por una única organización.


Ahora, un colectivo de más de 1.000 personas, entre las que se encuentran el propio Musk, junto a expertos como Steve Wozniak, cofundador de Apple; Emad Mostaque, CEO de Stability AI; investigadores de DeepMind, la división de Google especializada en inteligencia artificial, y Yoshua Bengio y Stuart Russell, pesos pesados del campo de la IA, han firmado un manifiesto que pide frenar el desarrollo de esta tecnología durante 6 meses.

Según recoge Reuters, los firmantes han pedido detener el entrenamiento de sistemas más potentes que GPT-4, el modelo que acaba de lanzar OpenAI, aludiendo a posibles riesgos para toda la humanidad.

Se trata de una carta abierta que ha sido publicada por la organización sin ánimo de lucro Future of Life Institute y que reclama poner en pausa el desarrollo de la inteligencia artificial más avanzada hasta que se desarrollen, apliquen y sean evaluados por expertos independientes protocolos de seguridad que sean comunes para tales diseños.

"Los sistemas de IA más potentes solo deberían desarrollarse cuando estemos seguros de que sus efectos serán positivos y sus riesgos serán asumibles", sugiere el manifiesto.

Gary Marcus, profesor emérito de la Universidad de Nueva York y firmante de la carta, ha expresado a Reuters en relación al documento que "no es perfecto, pero su espíritu es el correcto: debemos ir más despacio hasta que comprendamos mejor las consecuencias".

Los expertos advierten del riesgo que supone ChatGPT y apuestan por alternativas de código abierto: "Mucho poder, en pocas manos, durante mucho tiempo, tiende a acabar mal"

Les da miedito que la IA controlada que planteaban ya no sea pogre

Al final vendran terminators del futuro

jorobar que la usen sin conexión a Internet, en una fruta habitación y con el enchufe a mano para darle matarile

Ver los 100.

Aunque las IA de carbon alterado son la caña, sobre todo Poe

hace un tiempo, John Carmack que es amigo intimo de Elon Musk, comentaba que hablando con Elon sobre IA, este siempre estaba como muy preocupado

esto se sabe desde hace aos, la IA es un cambio tan bruto en todos los sentidos, que se lleva por delante muchos de los esquemas que sostienen la sociedad como la conocemos

Ya y las chortbots que? Venga ya

cortatijeras dijo:

Hacia que no sabia de carmack, lo busco en google y esta igual que cuando hizo doom, no envejece el hijomio

Hacer clic para expandir...

estuvo primero con Armadillo Aerospace, tirando cohetes. decia que cada lanzamiento costaba 2 millones de euros, a ese nivel jugaba

luego entre juego y juego se metio con las gafas de realidad virtual, y facebook compro su empresa. pero se acabo largando por la inutilidad de los de fb

lo ultimo es que esta metido en temas de IA

pero vamos que esta gente esta a otro nivel, y no tiene nada que ver con el dinero. basta ver los speech que tenia en las QuakeCon, de 3 horas hablando el solo sin parar, debe tener un coco increible

El que no se adapte que se haga a un lado y se pudra. No se puede detener el progreso

Abrojo dijo:

El que no se adapte que se haga a un lado y se pudra. No se puede detener el progreso

Hacer clic para expandir...

No me seas kamikaze. No entiendo bien los riesgos a los que se refieren pero si los mismos que lo desarrollan son los que no lo ven claro, supongo que si no parar si lo podran relentizar bastante si les da por ahi. Por mi que suelten al bicho y que sea lo que tenga que ser. Mejor la IA que el meteorito

yo estoy a favor de frenar la IA
pero no por el riesgo
el riesgo y el mad max es bueno
pero jorobar al puñetero chino de nvidia seria lo ideal