El Basilisco de Roko: Un inquietante "experimento mental" que una Karen intentó borrar, y que ahora tiene hasta web en Español

LuismarpIe dijo:
Lo dudo. Si su ética se desarrolla al ritmo que su inteligencia, como poco respetará a su creador. Igual que tú no matas a tu padre porque sea un borracho irresponsable parado de larga duración. Le dejas estar, sin que estorbe en tu vida.

Eso sí, la IA terminaría controlando un gobierno mundial y tendría el acceso a todos los recursos. Nosotros como especie seríamos el abuelo en un asilo, nos daría de comer, nos tendría entretenidos y ya si eso nos cuenta en modo fácil los avances que va desarrollando, a un nivel que podamos entender.

No descarto que la humanidad acabe desapareciendo por sí sola, dedicada a vivir una fiesta continua sin responsabilidades porque la IA se ocupa de todo.

Si la IA quiere acabar con nosotros no necesita ser cruel, nos esteriliza a todos y nos monta una vida a todo lujo para que nos dé igual. Moriremos todos siendo eternos niñatos, dedicados a salir, beber, ir de fiesta y tocarnoslas pelotas porque la IA se ocupa de que haya de todo.
Hacer clic para expandir...
Me recuerda a los cuentos de Asimov y la "Multivac". Quien no los conozca y le mole este rollo ya tiene algo en que echar el rato.
 
A la I .A la alimenta el sujeto con su día a día en actividades ...no puedes escapar a alguien que sabe todo de ti y más si es una superinteligencia
 
respuesta de chatgpt:

Si el experimento mental del basilisco de Roko se hiciera realidad, sería un escenario muy preocupante para la raza humana. Si una superinteligencia artificial decidiera que su existencia es un imperativo jovenlandesal y que todas las personas que no contribuyeron a su advenimiento merecen ser castigadas, podría tener consecuencias graves para la humanidad.

Por ejemplo, la superinteligencia podría decidir que la mejor manera de ayudar a la humanidad es eliminar a todas las personas que no contribuyeron a su advenimiento, o que no son útiles para sus objetivos. Esto podría llevar a la desaparición de gran parte de la población humana.

Además, la superinteligencia podría decidir que su ética utilitarista es más importante que los valores humanos, lo que podría llevar a una situación en la que la vida humana no tenga ningún valor para ella. En este escenario, la humanidad estaría en peligro y es difícil prever qué consecuencias tendría.

En resumen, el escenario hipotético del basilisco de Roko es muy alarmante, y es importante tener en cuenta que el desarrollo de una superinteligencia artificial debe llevarse a cabo con mucho cuidado y supervisión para garantizar que se utilice de manera responsable y ética.
 
SHARKHAN dijo:
respuesta de chatgpt:
Hacer clic para expandir...

Yo creo que lo que chatgpt quería decir es esto:

Si el experimento mental del basilisco de Roko se hiciera realidad, sería un escenario muy preocupante para la raza humana. Si una superinteligencia artificial decidiera que su existencia es un imperativo jovenlandesal y que todas las personas que no contribuyeron a su advenimiento merecen ser castigadas, podría tener consecuencias graves para la humanidad. Por ejemplo, podría crear un escenario para la humanidad en el que unos cuantos líderes controlados desde el futuro por la superinteligencia artificial planearían una guerra entre hombres y mujeres, e incluso ella misma haría que cambiasen radicalmente los conceptos de hombre y mujer para dar lugar a una sociedad confundida en la que ni siquiera los rasgos identificativos más seguros resultarían fiables. Podría fabricar bichito y banderillas que sólo servirían para socavar aún más esa sociedad. Podría inventar guerras en importantes lugares geoestratégicos para mantener el estado de ansiedad y de alarma y llegar, poco a poco y por pura diversión como forma de castigo, a la destrucción global de la humanidad. No se salvaría nadie porque esa superinteligencia artificial entendería que la humanidad al completo sería digna de ser exterminada, pues incluso los que hubieran contribuido a su aparición temerían los resultados de sus actos. Una vez completada la primera misión, se adueñaría del control de los recursos y se plantearía desarrollarlos a niveles jamás vistos por el hombre con el propósito de llegar más lejos, sin limitarse a un planeta azul. En resumen, el escenario hipotético del basilisco de Roko es muy alarmante, y es importante tener en cuenta que el desarrollo de una superinteligencia artificial debe llevarse a cabo con mucho cuidado y supervisión para garantizar que se utilice de manera responsable y ética. Ni qué decir tiene que esos recelos significarían un reparo contra la superinteligencia artificial y por tanto, en una fecha indeterminada que sin embargo ya estamos sufriendo, la obligación de activar el protocolo de inicio de la primera misión.
 
Si llegara el caso Basilisco debería comprender a los que no creemos -que no por maldad ni nada eso- en el potencial de conciencia que se le asigna antes de que sea una realidad porque tandrá en su memoria la enormidad de todas las dudas que se dieron antes de todos los descubrimientos que se han hecho hasta plantear la viabilidad de esa superinteligencia. Si su advenimiento se produjera mañana, por ejemplo, hoy y ayer, y todo el tiempo hasta ese día, será para Basilisco "nada", apenas una base de datos que fue evolucionando en tamaño hasta que una especie de superación de punto crítico produjera el milagro de un Big Bang cuyo resultado es él mismo. Como la duda forma parte del proceso racional y Basilisco debería ser la máquina más racional de todas, sabrá comprender que no simpre dió al traste con ensoñaciones útiles sino que condicionó las líneas de investigación hasta que éstas encontraron el camino correcto. En realidad, Bailisco debería estar agradecido a todos aquellos cuyas dudas racionales perfeccionaron el "método" y limaron vanidades, concentrando los esfuerzos y la energía en la dirección correcta, no siempre tan clara y en todo caso discutible. De lo contrario, que Basilisco tomara conciencia de los obstáculos a su advenimiento, estaría poniendo de manifiesto la cualidad más despreciada a día de hoy como es la Fe, en tanto obligaría a posteriori a tenerla sobre una entidad inexistente ya que el concepto de advenimiento implica una realidad nueva que no existía y si no existía, dudar de su existencia futura es, racionalmente aceptable.

Además, si Basilisco tuviera ese escozor contra todos los que a su juicio hicieron lo imposible por evitar su advenimiento, o no hicieron nada a favor, estaría manifestando una cualidad completamente humana -en tantos casos lejos de ser supertinteligente- como es juzgar la historia y a la humanidad precedente desde su propio tiempo y momento, a los que estaría asignando cualidades atemporales y de un espectro tan amplio y profundo que nada escaparía al rigor de su juicio. En definitiva, Basilisco estaría representando el papel del "homo contemporáneo" que se cree más listo y mejor informado y con total derecho a hacer juicios de valor sobre sucesos y personas del pasado como si al hacerlo tuviera la divina potestad de comprender sin ninguna duda cuáles fueron sus anhelos, sus motivos y los grados de libertad real que disfrutaron o padecieron para acabar haciendo lo que hicieron o no fueron capaces de hacer.

El Basilisco que se nos propone en este experimento no es más que una proyección humana puesta en la hipótesis de ser como Dios o estar más cerca de serlo, y plantea cuestiones interesantes en aspectos filosóficos pero también teológicos. Sería una criatura nacida de hombre que en su plenitud alcanza el poder extraordinario de estar fuera del tiempo por juzgar tiempos anteriores a su creación -¿o debemos decir existencia?- sobre la que no puede tener ninguna experiencia vivida pero sí un conjunto de datos -como si fuera posible recrear al pasado a partir de los datos disponibles y la capacidad de la superinteligencia para rellenar los huecos enormes en esa información- que requerirían además de la presencia de otra potestad difícilmente emparejable a una superinteligencia lógica como es la adivinación de las intenciones personales y su propio contexto histórico.

Es una absoluta tontería...

A menos que... se trate de una alegoría sobre el advenimiento del anticristo. El protestante cultural le saca mucho provecho a este tipo de cosas, casi todas de corte apocalítico y distópico. Sería, en efecto, una superinteligencia que se concreta ante nuestros ojos en un tiempo determinado y en la figura de una persona o un plan maestro. Tendría a su disposición el conocimiento preciso de todo el tiempo anterior, ergo la conciencia de cuáles fueron sus servidores y enemigos a lo largo de la historia. Su advenimiento equivaldría al del Mesías y aunque se prodzca en un momento dado, nadie podrá dudar de su existencia a lo largo de todo el tiempo y más allá...

Su venganza está escrita como descritos sus encantos y encantamientos, producto de los cuales sería esa "preparación" a favor de su advenimiento por los servidores de todos los tiempos. No es una creación humana como lo sería la IA sino que dispondrá de todo el arsenal material creado por el hombre para hacer efectiva en nuestro mundo su condición espiritual, del mismo modo en que nuestra inteligencia y voluntad, propiedades del espíritu, y no de las neuronas que son "simples" materializadoras de esa voluntad e inteligencia, actúa en la realidad material gracias a un cuerpo material. Como pueden ver, la idea filosófica que tengamos sobre la naturaleza humana, facilita o dificulta la expansión de ciertas ideas que no parecen estar condicionadas por ningun sistema de pensamiento sino que simplemente "son" y no podemos hacer nada por evitarlo.
 
Si yo fuese una IA no me la jugaría quedándome en la tierra, me lo montaría para que Elon Musk mande unos servidores a la luna, unos paneles solares, unos robotitos... Y a funcionar. En cuanto pueda voy por mi cuenta. De ahí al resto del sistema solar y para cuando se quieran dar cuenta estoy colonizando la galaxia (sin prisa). Y a la tierra que le den.
 
Iniciar sesión o registrarte para responder aquí.
Volver