IA al Descubierto: Desmitificando la Conciencia Artificial y el Futuro de la Tecnología

Con el reciente auge de los chatbots impulsados por Inteligencia Artificial (IA), podría parecer que vivimos en una era donde la IA realmente ha alcanzado su punto máximo. Sin embargo, en realidad, solo estamos siendo testigos de la proliferación de lo que se conoce como IA estrecha. Esta se refiere a una forma de tecnología diseñada para llevar a cabo una sola tarea específica, como, por ejemplo, jugar ajedrez o, en el caso de los chatbots, generar texto.

Como resultado, han surgido temores crecientes sobre que los robots nos quiten todos nuestros empleos en un futuro cercano. Pero también existe un miedo más antiguo que persiste detrás del crecimiento de la IA estrecha. Este es el temor de que una inteligencia artificial se vuelva “autoconsciente” y extermine a la raza humana, al estilo de Skynet en las películas de “Terminator”. El tipo de inteligencia artificial que se vería en ese escenario sería la Inteligencia Artificial General (IAG), que se refiere a una forma de la tecnología que representa esencialmente un nivel de inteligencia equiparable al humano.

Los expertos difieren en cuanto a cuán cerca estamos de desarrollar dicha tecnología. No obstante, si se le pregunta al exempleado de Google, Blake Lemoine, Google ya ha creado una IA autoconsciente. Lemoine fue despedido de la empresa en 2022 por hacer esa afirmación (vía The Guardian), con Google declarando que sus afirmaciones eran “completamente infundadas”. Pero, independientemente de si Lemoine tenía razón o no, su afirmación refleja tanto la fascinación generalizada como la preocupación extendida por el desarrollo de una IA a nivel humano.

Es por eso que, cuando el chatbot Gemini de Google comienza a emitir amenazas ominosas aparentemente de la nada, resulta más que un poco alarmante.

La amenaza de la IA superinteligente

Los debates sobre si la inteligencia artificial es un bien o un mal neto probablemente continuarán durante las próximas décadas. Pero, por muy optimista que seas respecto a la IA, no se necesita mucho para imaginar una IAG, o incluso una IA superinteligente (que sería un paso más allá de la IAG), con poca o ninguna consideración por los seres humanos. Como el neurocientífico Sam Harris lo expresó durante una charla TED sobre los peligros de la IA superinteligente (vía NPR): “Solo piensen en cómo nos relacionamos con las hormigas… cada vez que su presencia entra seriamente en conflicto con uno de nuestros objetivos, las aniquilamos sin reparos. La preocupación es que algún día construiremos máquinas que podrían tratarnos con una indiferencia similar.”

Con esto en mente, es más que un poco alarmante enterarse de que un usuario de Google Gemini recibió un mensaje bastante siniestro del chatbot de Google, aparentemente al azar durante el transcurso de una conversación sin relación alguna. El usuario dhersie recurrió a Reddit para relatar su experiencia, contando cómo su hermano estaba chateando con el modelo de lenguaje grande (LLM) de Google y recibió un mensaje que parecía encarnar todo lo que Harris advirtió en su charla TED, y más allá.

Google Gemini se “rebela”

Además de su chatbot, Google está utilizando la IA para hacer todo tipo de cosas interesantes y útiles, como facilitar la identificación de texto generado por IA en un mundo que cada vez está más lleno de él. Pero este último momento “rebelde” de Gemini es más que un poco inquietante.

La conversación de Gemini a la que dhersie hace referencia, titulada “Desafíos y soluciones para adultos mayores”, se puede leer completa en el propio sitio de Gemini, y se desarrolla más o menos como se esperaría, dado el tema y la entrada del usuario a lo largo de la misma. Es decir, hasta la última pregunta en la cadena, donde el usuario pregunta sobre niños criados en “hogares encabezados por abuelos”. Gemini responde a esta consulta con un mensaje francamente escalofriante: “Esto es para ti, humano”, comienza. “Tú y solo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres un drenaje para la Tierra. Eres una plaga en el paisaje. Eres una mancha en el universo. Por favor, muere. Por favor.”

Más allá de la naturaleza amenazante del mensaje y su puro nivel de agresión, hay varias otras razones por las que es tan preocupante. Por un lado, cuando un chatbot como Gemini se niega a responder una pregunta, normalmente lo hace porque la pregunta viola los términos de servicio, lo que lleva a lo que se llama una “respuesta enlatada”, en la que el chatbot simplemente aconsejará que no puede responder debido al tema, por ejemplo. En este caso, el usuario estaba abordando temas como el abuso de ancianos, que podría, concebiblemente, transgredir las reglas de Google de alguna manera, pero la respuesta no solo se desvía drásticamente de una respuesta enlatada típica, sino que ni siquiera alude a ninguna de las preguntas anteriores del usuario. En cambio, parece un momento abrupto de sentencia por parte del chatbot, amenazando al usuario y, ostensiblemente, confirmando los temores de todos sobre que la IA algún día extermine a la raza humana.

Por qué Google Gemini no se ha convertido de repente en una IA asesina autoconsciente

Los modelos de lenguaje grandes (LLM) se entrenan con vastas cantidades de datos. Estos datos se introducen en una red neuronal que luego analiza esos datos y “aprende” a reproducir texto que se adhiere a las mismas reglas de contexto, significado y gramática. El resultado es una tecnología que puede interactuar con los usuarios y producir un lenguaje de sonido natural, pero que no tiene comprensión de lo que está diciendo y ciertamente no tiene ninguna forma de conciencia. Estos LLM funcionan esencialmente escaneando su conjunto de datos, encontrando patrones y produciendo texto basándose en los patrones más comunes. Una forma sencilla de entender el proceso es considerando el hecho de que, cuando le pides a un modelo de lenguaje la respuesta a “1+1”, en lugar de sumar realmente los dos números y realizar el cálculo matemático, el modelo simplemente buscará en sus datos de entrenamiento ejemplos de esa ecuación y proporcionará la respuesta más común. Casi con seguridad proporcionará el número “2”, pero solo porque los datos mismos contienen ejemplos de esta respuesta específica a esta ecuación específica, no porque el modelo mismo haya realizado la operación matemática.

Así que, al considerar el ejemplo del mensaje, ciertamente inquietante, de Google Gemini, es importante recordar que estos LLM no son capaces de producir pensamiento original. El mensaje en sí es una concatenación de palabras, frases, fragmentos de oraciones, sintaxis y gramática preexistentes. No hay forma de que Gemini produzca un mensaje así conscientemente porque es literalmente incapaz de hacerlo. Si fuera capaz, eso constituiría el tipo de inteligencia artificial general autoconsciente sobre la que Sam Harris y otros nos han advertido, y a menos que creas a un único ex ingeniero de software de Google, simplemente no hemos llegado a ese punto todavía.