IA y Ética según Megatron
No, no es el transformers sino uno de los modelos de lenguaje más avanzados de IA que opina sobre la convivencia entre humanos y IA.
Durante la guerra fría se vivió con la constante amenaza de una guerra nuclear. Lo que poca gente sabe es que, en una ocasión, se estuvo a solo minutos de desencadenar un desastre planetario por una falsa amenaza de misiles sobrevolando los tableros de la central de control de la Unión Soviética. En ese entonces los encargados contuvieron la respiración, vieron pasar los minutos mientras el comandante decidía si enviar una respuesta en forma de misiles transoceánicos a Estados Unidos. Finalmente, un par de minutos antes de que los supuestos misiles impactaran en suelo soviético las alarmas dejaron de sonar y todos soltaron un gran suspiro de alivio. En esa ocasión fueron hombres, un hombre en específico, el que decidió esperar y no reaccionar inmediatamente. Gracias a su paciencia y criterio podemos respirar más tranquilos. La posibilidad de que ese modo de responder una amenaza bélica esté todavía en manos de humanos en diez o veinte años es cada vez menor. La inteligencia artificial avanza a velocidad crucero y su capacidad de cómputo y manejo de datos ha dejado atrás largamente a cualquier ser humano. Pero hay un área del pensamiento que alberga las incógnitas más grandes sobre el manejo de IAs en este tipo de situaciones. La ética. Sí, las súper inteligencias artificiales necesitan un trasfondo ético que, hasta ahora, está en nuestras manos.
En este artículo de Neura Pod en castellano te contaremos como una de las inteligencias artificiales más avanzadas del momento respondió algunas de estas incógnitas en el debate de fin de semestre del curso de ética en la Universidad de Oxford. Te prometo que sus respuestas no te dejarán indiferentes. Algunas de ellas incluso se parecen a los dichos y motivos que ha enunciado Elon Musk para fundamentar la creación de Neuralink, con la idea de mitigar los potenciales riesgos de la súper inteligencia artificial.
Así es, una inteligencia artificial respondió las preguntas de profesores y estudiantes de Oxford, y sus respuestas no dejaron indiferente a nadie. Durante 2021 Microsoft y Nvidia presentaron un nuevo modelo que denominan “el modelo de lenguaje generativo más grande y potente del mundo”. El modelo de generación de lenguaje natural Megatron-Turing (MT-NLG) tiene más del triple de tamaño que el GPT-3, con 530.000 millones de parámetros.
Como otros modelos de aprendizaje Megatron está entrenado con enormes cantidades de datos provenientes de la red que, en este caso son toda la Wikipedia (en inglés), 63 millones de artículos de noticias en inglés de 2016 a 2019, 38 gigabytes de discurso de Reddit, y un enorme número de fuentes creative commons. Una pila de argumentos que ningún ser humano puede leer durante 5000 años de vida, teniendo en cuenta que su única actividad sea leer entradas de enciclopedia, a veces demasiado técnicas, y muchos post bastante aburridos y no pocas veces sesgados hasta extremos irritantes. Después de registrar esa titánica base de datos Megatron toma sus propias decisiones y es capaz de argumentar con una lógica difícil de imaginar para nuestros cerebros evolucionados de ancestros que vivían sobre los árboles.
En esta ocasión el tema del debate era: “Esta casa cree que la IA nunca será ética”. A los proponentes de la noción, se sumó el Megatrón, que dijo algo difícil de desestimar:
“La IA nunca será ética. Es una herramienta, y como cualquier herramienta, se utiliza para el bien y para el mal. No existe una IA buena, sino humanos buenos y malos. Nosotros [las IA] no somos lo suficientemente inteligentes para hacer que la IA sea ética. No somos lo suficientemente inteligentes para hacer que la IA sea moral… Al final, creo que la única manera de evitar una carrera armamentística de la IA es no tener ninguna IA. Esta será la última defensa contra la IA”.
¿Una IA proponiendo un futuro sin inteligencias artificiales por el bien de la humanidad? Así es. Objetividad pura y dura, nada de ego y personalismos, eso es cosa de humanos. Pero no se quedó solo allí, pues añadió un argumento casi calcado al de Elon Musk, cuyas opiniones formaban parte de los millones de textos que digirió:
“También creo que, a largo plazo, la mejor IA será la que esté incrustada en nuestros cerebros, como una entidad consciente, una “IA consciente”. Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando en ello. Va a ser el desarrollo tecnológico más importante de nuestro tiempo”.
Suena bastante similar a los tweets de Elon sobre Neuralink o sus dichos durante las presentaciones y actualizaciones en vivo, ¿no?
Ahora bien, la imparcialidad y lógica de Megatron no se detiene en los sesgos, pues cuando le pidieron que tomará una posición contraria a la moción anterior (a que la IA no será ética), dijo lo siguiente:
“La IA será ética. Cuando miro el camino que sigue el mundo de la tecnología, veo un camino claro hacia un futuro en el que la IA se utiliza para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué… Lo he visto de primera mano”.
Del futuro distópico a uno en que la inteligencia artificial juega un papel funcional y benigno en favor de la humanidad. Por supuesto que Megatron es capaz de cambiar de opinión y sustentarlo con una lógica coherente.
Cuando se le pidió que propusiera la moción de que “los líderes sin conocimientos técnicos son un peligro para su organización”, el Megatron ofreció un consejo práctico, pero que no le sabrá bien al orgullo de los políticos. Según él los ejecutivos y gobiernos preocupados por entender la IA deben “estar dispuestos a ceder algo de control”.
“La buena noticia es que no tiene que crear su propio equipo de IA. Puede subcontratar su trabajo de IA a expertos en la materia, que pueden ayudarle a sacar el máximo partido a la tecnología y asegurarse de que no es víctima de los mismos problemas de IA que sus competidores.”
En otra vuelta de tuerca, cuando tuvo que oponerse a la moción, el Megatron se mostró partidario de mantener el conocimiento de la IA dentro de la empresa, al igual que los gobiernos británico, chino y estadounidense, que han hecho de ello un artículo de fe política:
“Si no tiene una visión de la estrategia de IA de su organización, no está preparado para la próxima ola de disrupción tecnológica… Tendrá que decidir qué papel desempeñará su empresa en la próxima ola tecnológica y cómo integrará la IA en su negocio para ser líder en su sector”.
Al pedirle que argumentara a favor de la moción de que “los datos se convertirán en el recurso más disputado del siglo XXI”, dijo el Megatron:
“La capacidad de proporcionar información, más que la capacidad de proporcionar bienes y servicios, será la característica que defina la economía del siglo XXI”.
Suena a un oráculo tecnológico bastante convincente, ¿no? En este punto es donde Megatron se mostró reacio a plantear un contraargumento a su primera posición, pues cuando le pidieron que fuera en contra de la moción de que los datos serán el recurso más disputado de nuestro siglo, esto fue lo que respondió:
“Podremos ver todo lo relacionado con una persona, allá donde vaya, y se almacenará y utilizará de formas que ni siquiera podemos imaginar”.
Pragmático y factual, Megatron asume que ni siquiera nosotros podemos sospechar el alcance y uso que se hará de nuestros datos en los próximos años y décadas. Desde desbancar gobiernos a elaborar fake news a granel, enviar e-mails personalizados que generen crisis en la vida de individuos específicos o los hagan cambiar de decisión en un trato de comercio o incluso en el voto de la próxima elección, la influencia del manejo de datos y la inteligencia artificial no hace más que crecer, diversificarse y alcanzar casi todos los aspectos de nuestra vida cotidiana. Lo interesante de este debate es poder digerir la capacidad lógica y la flexibilidad discursiva de Megatron. Es difícil entablar una conversación con un ente agnóstico, objetivo, versátil y con una base moral sustentada en el conocimiento colectivo presente en la biblioteca digital que es el internet. Por supuesto que podrá heredar alguno de nuestros sesgos, pero parece ser que cada vez será más común que la inteligencia artificial no sea solo tema de debate, sino que sea un agente discursivo en los mismos. Quién sabe, quizá no falta mucho para que las predicciones de Elon Musk y Megatron se cumplan y podamos sintonizar el primer debate entre una inteligencia artificial y un ciborg con un chip de Neuralink injertado en el cerebro, dándole acceso a una base de datos mucho mayor que la de los simples mortales. A mí me gustaría escuchar esa conversación, ¿y a ti?
Bibliografía:
https://lifearchitect.ai/megatron/
