¿Servirá la inteligencia artificial a la humanidad o engendrará una nueva especie de seres digitales conscientes con su propia agenda?
Es una pregunta que ha desatado decenas de tramas de ciencia ficción, desde “Coloso: El Proyecto Forbin” en 1970, a “La matriz” en 1999, a la historia de gran presupuesto de este año sobre IA versus humanos, “El creador.”
La misma pregunta también ha estado acechando detrás de la lucha por el liderazgo de OpenAI, en la que el director ejecutivo Sam Altman venció a los miembros de la junta directiva de la organización sin fines de lucro que lo despidieron una semana antes.
Si tuviera que dividir la comunidad de IA en campos de ir rápido y de ir lento, esos miembros de la junta estarían en el lado de ir lento, mientras que Altman estaría a favor de ir rápido. Y ha habido rumores sobre la posibilidad de una “Avance” en OpenAI que haría que el campo avanzara muy rápido – potencialmente demasiado rápido para el bien de la humanidad.
¿Existe la posibilidad de que la IA se vuelva sensible y tome el asunto en sus propias manos? algo de lo que deberíamos preocuparnos? Ésa es sólo una de las preguntas cubiertas por el veterano escritor científico George Musser en un libro recién publicado titulado “Volver a ponernos en la ecuación”.
Musser entrevistó a investigadores de inteligencia artificial, neurocientíficos, físicos cuánticos, neurocientíficos y filósofos para obtener una lectura sobre la búsqueda de desentrañar uno de los misterios más profundos de la vida: ¿Cuál es la naturaleza de la conciencia? ¿Y es un fenómeno exclusivamente humano?
¿Su conclusión? No hay ninguna razón por la que el tipo correcto de IA no pueda ser tan consciente como nosotros. “Casi todos los que piensan en esto, en todos estos diferentes campos, dicen que si tuviéramos que replicar una neurona en silicio, si tuviéramos que crear una computadora neuromórfica que tendría que ser muy, muy fiel a la biología, sí, sería ser consciente”, dice Musser en el último episodio del Podcast de ciencia ficción.
Pero, ¿deberíamos preocuparnos por permitir el surgimiento de futuros señores de la IA? Sobre esa cuestión existencial, la visión de Musser va en contra del guión habitual de ciencia ficción.
“Creo que las máquinas tontas, las máquinas inconscientes, como se ha demostrado en el mundo actual, son extremadamente peligrosas y ya son capaces de aniquilar a la humanidad. Las máquinas conscientes no añaden ninguna capacidad particular que pueda aumentar, al menos en mi opinión, su peligro para la humanidad”, afirma.
“En todo caso, creo que probablemente el peligro va en sentido contrario: que los maltratemos”, dice Musser. “Esto, desgraciadamente, también ocurre en la historia del ser humano. Tendemos a maltratar, hasta que superamos eso, a seres que claramente son conscientes”.
Las capacidades de las herramientas de IA generativa como OpenAI ChatGPT No son una gran sorpresa para quienes investigan en este campo, pero Musser dice que los investigadores se han sorprendido por la rapidez con la que se están desarrollando.
Compara el progreso en IA con el progreso en el aprovechamiento de la fusión nuclear. “Es una de esas cosas que siempre parece estar en el futuro, ¿verdad?” él dice. Pero en el caso de la IA, el futuro parece menos lejano.
“Adelanta el calendario que en la mente de mucha gente se refiere a lo que se conoce como AGI”, dice Musser. “Eso es artificial general inteligencia, y que es un sistema que es capaz de realizar una amplia gama de funciones, de aprender sobre la marcha. Básicamente, un sustituto más cercano de un cerebro animal, o incluso de un humano, o incluso de un sobrehumano. Así que creo que ha acelerado las cosas, pero ha sido un cambio cuantitativo, no cualitativo para las personas”.
En opinión de Musser, en la era del ChatGPT es más urgente que nunca que los científicos descubran cómo funciona nuestro propio cerebro. “No es sólo una empresa científica, por curiosidad”, afirma. “Entendemos bastante mejor la conciencia si hacemos juicios sobre los sistemas de las máquinas y preguntamos: ‘¿Son conscientes?’ Porque se necesita una teoría de la conciencia sólo para responder a esa pregunta”.
Musser se centra en dos teorías en su libro:
- Teoría integrativa de la información: La conciencia surge de la conexión interna de una red y puede medirse en una escala matemática. Los animales poseen un nivel de conciencia inferior al de los humanos. En teoría, los objetos inanimados como las computadoras podrían ser conscientes, pero sus redes de información tendrían que estructurarse con circuitos de retroalimentación análogos a los sistemas nerviosos biológicos.
- Codificación predictiva: La conciencia surgió como una función biológica destinada principalmente a ayudar a los organismos a predecir lo que sucedería en el futuro cercano y ayudarlos a evitar amenazas; por ejemplo, poder anticipar el salto de un león. Las máquinas tendrían que poseer modelos predictivos de sus entornos que sean tan detallados como los que desarrollaron los organismos durante miles de millones de años.
“No son las únicas teorías”, dice Musser. “De hecho, ahora estoy escribiendo un artículo sobre teoría del espacio de trabajo global, que es otra teoría realmente súper interesante. Sí sugiere que la conciencia es específica de relativamente pocas especies que tienen cierto tipo de funcionamiento cognitivo”.
La mayoría de los científicos dicen que la generación actual de IA generativa está cayendo. corto de conciencia, según cualquier definición. “ChatGPT, probablemente no sea consciente”, dice Musser. “¿Pero un sucesor? ChatGPT 5? Tal vez.“
El ángulo más fascinante que aborda el libro de Musser tiene que ver con la conexión entre las teorías de la cognición y la física cuántica. Por un lado, el físico ganador del Nobel Roger Penrose ha sostenido durante mucho tiempo que La conciencia es un fenómeno cuántico., que surge de la actividad de los microtúbulos dentro de las neuronas. Si ese es el caso, la verdadera conciencia no podría crearse usando computadoras clásicas.
Por otro lado, algunos científicos sospechan que tener una mejor comprensión de la conciencia podría conducir a una mejor comprensión de los enigmas de la física cuántica, específicamente, la “efecto observador” que juega un papel en fenómenos extraños como superposición y entrelazamiento cuántico. Los físicos aún no han resuelto completamente esos enigmas, razón por la cual algunos de ellos están cada vez más interesados en la IA y el estudio de la conciencia.
“Podemos empezar a hablar de teorías específicas en neurociencia y filosofía de la mente que pueden ayudar en estas preguntas que la física plantea, que la física plantea, que la física enfrenta, que tienen que ver con el extraño y casi paradójico papel que el observador parece desempeñar en nuestra vida. comprender el mundo físico”, dice Musser.
Musser espera un avance, no del tipo que conduce a una distopía al estilo Matrix, sino del tipo que conduce a una nueva comprensión científica en la escala de la teoría de la relatividad de Albert Einstein. Estos avances pueden ocurrir sólo una o dos veces en el transcurso de un siglo..
“Me entusiasma la idea de que lo haremos en asociación con la IA”, afirma. “Quizás hayas oído hablar del ejemplo de la radiología, de que los radiólogos humanos detectan alrededor del 97% de lo que estamos buscando (tumores, aneurismas o lo que sea) y la IA captura el 97%, pero es un 97% diferente. Entonces los juntas y obtienes algo que es mejor que cualquiera de los dos por sí solo. Creo que tendremos algo análogo a eso con el uso de la IA para resolver acertijos de la conciencia”.
Verificar la versión original de este artículo en Cosmic Log para obtener recomendaciones para lecturas adicionales de George Musser, y sEstén atentos a futuros episodios de la Podcast de ciencia ficción a través de Manzana, Google, Spotify, Reproductor.fm, Yesos de bolsillo y Radio Publica.
Para obtener más información sobre las extrañas creencias que rodean la controversia OpenAI, lea “Lo que OpenAI comparte con Scientology” por el comentarista de política y tecnología Henry Farrell. Y para obtener más información sobre la conciencia y la física cuántica, consulte Ciencia ficción. entrevista con robert lanza sobre el efecto observador, más nuestro entrevista con Christof Koch sobre la neurociencia de la conciencia.
Mi copresentadora del podcast Fiction Science es Dominica Phetteplace, una escritor premiado quien es egresado de la Taller de escritores de Clarion West y actualmente vive en San Francisco. Para obtener más información sobre Phetteplace, visite su sitio web, DominicaPhetteplace.comy leer un extracto de “Los fantasmas de Marte” su novela corta en el número actual de la revista Science Fiction de Asimov.
