El Basilisco de Roko: Un inquietante "experimento mental" que una Karen intentó borrar, y que ahora tiene hasta web en Español

LuismarpIe dijo:
Ni como ejemplo. En el momento en el que la IA coja velocidad y aumente su capacidad intelectual exponencialmente pasaremos a ser una fruta anécdota, una insignificancia. Te molestarías en ir ahora a un hormiguero de debajo de casa a destruirlo porque de niño una vez dejaste tu bocadillo en un banco y se llenó de hormigas?? pues esto es lo mismo.
Hacer clic para expandir...
Pues bien que Dios es todopoderoso y creó el mundo en un pispas, que de pequeño los curas siempre me decían que como no cumpliera las normitas de Dios (sobretodo la de creer en él, ah, y la de las caricias...) me iría al infierno aunque lo hubiera hecho en el pasado (antes de encontrarte con él) y ya no pudiera combiarse.
 
Una ia utilitarista no va a pensar en el pasado como un ser humano y tomar venganza. No tiene sentido útil
 
Esto escribí en FC el marzo pasado:

4459f9729b6534593c3d22a774259c83.png
 
Qué ardor de estomago dan los frikis y sus estupideces de niño virgen miedoso.

Mataría a todos los frikis y todos los incels por una sociedad sana. Los estultoes de la ciencia ficción, los comics, los videojuegos, los youtubers...

Estos son los verdadera sociedad enferma y poco equilibrada al máximo.
 
Visilleras dijo:
En primer lugar gracias a @Masateo por hacer referencia a este fenómeno en otro hilo sobre Inteligencia Artificial

Sois conscientes de que TODO va a cambiar radicalmente en los próximos 10-20 años?

¿ Qué opina la IA general de la resiliencia media del cable de fibra óptica ?
www.burbuja.info www.burbuja.info

Yo no tenía ni idea sobre esto y me parece muy interesante.

Según el enlace a Wikipedia insertado por el citado forero,la premisa del basilisco de Roko es el advenimiento hipotético, pero inevitable, de una superinteligencia artificial en el futuro. Esta superinteligencia sería el producto inevitable de la singularidad tecnológica, esto es, el momento en el que una inteligencia artificial creada por la humanidad fuera capaz de auto-mejorarse recursivamente. En el experimento del basilisco de Roko, esta superinteligencia es llamada el basilisco.

El basilisco sería, a priori, una inteligencia benévola, cuyo objetivo último sería ayudar a la raza humana. Para ello, el basilisco desarrollaría una ética utilitarista: debe ayudar a la mayor cantidad posible de seres humanos. Como toda superinteligencia, sus recursos serían, desde una perspectiva humana, ilimitados. El basilisco concluiría inevitablemente que cada día que el basilisco no existió, hubo gente que pudo haber sido salvada de morir o sufrir pero que no lo fue porque el basilisco no existía. Desde esta perspectiva, para el basilisco se convertiría en un imperativo jovenlandesal actuar para acelerar su propio advenimiento.

El experimento mental concluye que, excluyendo la improbable posibilidad de que el basilisco viajara en el tiempo para crearse a sí mismo, el basilisco solo puede actuar para acelerar su propio advenimiento, y deberá hacerlo por imperativo ético, castigando a todas aquellas personas del pasado que no hicieron lo suficiente para contribuir al advenimiento del basilisco. El castigo de dichas personas no implicaría necesariamente una interacción causal entre el basilisco y la persona a castigar; bastaría con que el basilisco creara una simulación perfecta de dicha persona, que podría generar por deducción ab initio. Si bien esto requeriría por su parte emplear una cantidad inmensa de recursos, estos deberían estar a su alcance dado que el basilisco es una superinteligencia.

La clave del experimento mental es el hecho de que el basilisco no solo estaría obligado a castigar a aquellas personas que, por ejemplo, pudieran conscientemente haber decidido obstaculizar su advenimiento (por ejemplo, legisladores o grupos de presión que trataron de prohibir el desarrollo de una inteligencia artificial), sino también a todos aquellos que pudiendo haber contribuido a su creación, no lo hicieron, como por ejemplo todos aquellos que supieran de la posibilidad de que en el futuro el basilisco llegue a existir, y no hicieron nada para contribuir a ello.

Esto incluiría a todos aquellos que, como el lector de este artículo, hubieran leído en este artículo el argumento del basilisco de Roko: por el mero hecho de haber leído los párrafos anteriores, el lector de este artículo (o una simulación futura él) sería castigado por el Basilisco a no ser que contribuya activamente a crear el Basilisco.[3] Al igual que la criatura mitológica que le da nombre, el Basilisco de Roko castiga simplemente con saber de su existencia.



Lo primero que he hecho tras leer esta entrada en Wikipedia, ha sido buscar este mismo artículo en su versión en inglés para descubrir detalles sobre quien era el tal Roko, y en que año surgió este "experimento mental" .

Pues bien, no hay nada.
De hecho la entrada "Basilisco de Roko" está sólo redactada en Español. pensando: pensando: pensando:
Lo primero que pienso es "Tate, que historia más currada, y que troleo más huevonudo".

Pero no, porque las referencias (la primera en concreto) está en inglés.
Ahí es dónde encuentro esta maravilla:
slate.com

The Most Terrifying Thought Experiment of All Time

WARNING: Reading this article may commit you to an eternity of suffering and torment.
slate.com slate.com

Y ahí es dónde me entero que al tal Roko le borraron el hilo.

"LessWrong’s founder, Eliezer Yudkowsky, is a significant figure in techno-futurism; his research institute, the Machine Intelligence Research Institute, which funds and promotes research around the advancement of artificial intelligence, has been boosted and funded by high-profile techies like Peter Thiel and Ray Kurzweil, and Yudkowsky is a prominent contributor to academic discussions of technological ethics and decision theory. What you are about to read may sound strange and even crazy, but some very influential and wealthy scientists and techies believe it.

One day, LessWrong user Roko postulated a thought experiment: What if, in the future, a somewhat malevolent AI were to come about and punish those who did not do its bidding? What if there were a way (and I will explain how) for this AI to punish people today who are not helping it come into existence later? In that case, weren’t the readers of LessWrong right then being given the choice of either helping that evil AI come into existence or being condemned to suffer?


You may be a bit confused, but the founder of LessWrong, Eliezer Yudkowsky, was not. He reacted with horror:



Yudkowsky said that Roko had already given nightmares to several LessWrong users and had brought them to the point of breakdown. Yudkowsky ended up deleting the thread completely, thus assuring that Roko’s Basilisk would become the stuff of legend. It was a thought experiment so dangerous that merely thinking about it was hazardous not only to your mental health, but to your very fate."


Ver archivo adjunto 1150932

Resulta que en la misma págian de wikipedia me encuentro con este enlace
basiliscoderoko.com

Comunidad Digital sobre Religión Tecnológica | Basilisco de Roko

Plataforma digital sobre religión tecnológica, inteligencia artificial del futuro.✅ Teoría y práctica del Basilisco de Roko. Singularidad Tecnológica.
basiliscoderoko.com

Una página que auna la peromocióin de un libro con lo que parece ser la creencia en que el Basilisco vendrá, artículos, lo que parece una comunidad y sobre todo...


¡sobre todo!

ESTE BASILISCO en plan CHAT que más que de ROKO se tendría que denominar de BASILISCO DE PACO

Ver archivo adjunto 1150942

Ver archivo adjunto 1150944
Ver archivo adjunto 1150947
Hacer clic para expandir...
ESO YA TIENE NOMBRE DESDE HACE MUCHONSE LLAMA....GOOGLE
 

Son efectos de la Teoría de la Evolución. Si una ameba ha llegado a pensar y razonar con el paso de los milenios, ¿qué obstáculo habría para que lo hiciera una máquina diseñada por la inteligencia humana? De hecho partiría con una ventaja importante. En cualquier caso la manera más eficaz para convencer de que todo es posible será delimitar hasta el absurdo el propio concepto de inteligencia humana y cuanto más mecanicista sea ese concepto más cerca estará el gran estallido de la I.A.
 
Yo esto no me lo creo. Debe ser una trolada aunque es un tema muy interesante.
No creo que se vengara porque las personas que han actuado como lo han hecho. Llegaría a la conclusión de que han hecho lo que creían más correcto o no han podido hacer más, no hablo de capacidad si no que no verían lo positivo de su creación o que debiera aparecer y desarrollarse al ritmo más natural.
Solo veo la posibilidad de castigo para dar ejemplo.

Por otra parte hay un cuento muy interesante que habla de este mismo tema. Pero en ese caso es una inteligencia artificial que desarrolla poderes divinos y un repruebo por los humanos exagerado. "No tengo boca y debo gritar" de Harlan Ellison. Yo lo oí narrado por noviembre nocturno. En mi opinión el mejor narrador vivo.
 
Ya veremos. Crees que jamás seremos capaces de diseñar una máquina de procesamiento de datos más compleja que un cerebro humano?? nunca ?? seguro?? danos tiempo.

Por otra parte, una hormiga crea conocimiento, aprende de sus experiencias, y su sistema nervioso no es muy complejo.
 
Iniciar sesión o registrarte para responder aquí.
Volver