La IA y tú, Parte 4: ¿El fin de la humanidad?

Aug 02, 2023

2 de agosto de 2023Especial para el Herald TimesColumnas, Condado, Opinión0

Parte 1: Columna invitada: La inteligencia artificial y tú, Parte 1

Parte 2: Cómo funcionan la IA y ChatGPT, Parte 2

Parte 3: La IA y usted, Parte 3: Cómo usar ChatGPT sabiamente

eritrocitos | En esta serie de artículos intenté exponer la influencia de la inteligencia artificial en nuestras vidas. Describí las nuevas capacidades de ChatGPT y un poco sobre su funcionamiento interno, las redes neuronales. Enumeré posibles usos y abusos. Todo el tiempo he vuelto a sus comportamientos sorprendentes y emergentes. Ahí es donde terminaré. Podría decirse que ChatGPT y sus primos representan una nueva inteligencia que rivaliza con nuestras propias capacidades humanas y potencialmente se extiende más allá de ellas. Las versiones mejoradas de ChatGPT pueden representar una amenaza muy real para la existencia humana. No es ciencia ficción. Algunas personas reflexivas entre los ingenieros sensatos que desarrollaron estos sistemas están preocupadas. Como mínimo, necesitamos identificar amenazas potenciales y descubrir cómo abordarlas.

El matemático británico Alan Turing inventó en 1936 el modelo de un dispositivo computacional general, lo que ahora se conoce como máquina de Turing y que es la base de las computadoras digitales modernas. Antes de Turing, las computadoras estaban especialmente conectadas para resolver problemas particulares, por ejemplo, encontrar la trayectoria de un proyectil de artillería disparado en un ángulo de 45 grados y una velocidad de 500 metros por segundo. Para resolver otro problema, hubo que volver a cablear la computadora. Turing permitió dispositivos modernos en los que todos los componentes, procesadores y memoria, utilizan la misma información, ceros y unos, todo ello controlado por instrucciones de software. ¿Necesitas sumar y restar números en una hoja de cálculo? Simplemente escriba el código de computadora para hacer eso. ¿Necesitas editar un documento de texto? Escribe el código apropiado. Con una máquina de Turing (es decir, todos nuestros dispositivos digitales) no necesitas una computadora diferente, solo un código diferente.

Ya entonces la gente se preocupaba por las máquinas y sus capacidades. ¿Cómo se puede saber si una computadora ha alcanzado la inteligencia humana y podría hacer (a veces no tan agradables) cosas humanas? ¿Cómo sabes si has construido un cerebro? La respuesta de Turing fue el test de Turing. Coloque una persona real, denominada P, y una computadora, C, detrás de cortinas separadas. Someterlos a una serie de interrogadores. El profesor Smith hace preguntas sobre su campo de interés, escucha atentamente las respuestas de P y C. El doctor Jones llega cuando Smith termina y les hace a P y C una lista de preguntas de su ámbito de experiencia. El oficial Frederick reemplaza a Jones, y así sucesivamente. Después de los interrogatorios, los entrevistadores comparan notas. A partir de las respuestas proporcionadas por P y C, ¿pueden determinar cuál es el humano y cuál es la computadora? Si no, tienes una máquina inteligente.

Desde cualquier punto de vista, ChatGPT pasa la prueba de Turing. Y ha sorprendido incluso a los científicos cognitivos que se pasan la vida estudiando el cerebro humano. Tiene éxito en las “tareas de la teoría de la mente” y aprende nuevos comportamientos que, según todas las apariencias, se extienden más allá de los límites de su entrenamiento. No describiré aquí las pruebas de teoría de la mente; si estás interesado puedes encontrar un ejemplo en el podcast de David Kestenbaum (Kestenbaum, 2023). Sin embargo, relataré otro de los alucinantes comportamientos emergentes de ChatGPT.

Los ingenieros que le dieron a ChatGPT el problema de apilamiento que describí hace un par de semanas también idearon este. "GPT-4.0, dibujame un unicornio". ¡Ja! Seguramente lo dejó perplejo con este tiempo. GPT entrenado en texto. No es Dall-E, el pintor de IA. No puede dibujar. De ninguna manera va a dibujar un unicornio.

Dibujó un unicornio. No es el unicornio más elegante de los cuentos de princesas de hadas, pero es un unicornio reconocible. Cuatro patas, una especie de cuerpo ovalado en forma de bloque, óvalos más pequeños a modo de cola, una cabeza con un cuerno triangular puntiagudo de color dorado, por lo que no te lo puedes perder. Como si GPT estuviera señalando: "Mira, sé lo que es importante acerca de los unicornios".

¿Cómo hizo eso? Bueno, aprendió todo sobre los unicornios leyendo cuentos de unicornios en su capacitación web. Cómo se ven, por qué son diferentes. Y puede escribir código de computadora. No puede dibujar, pero puede escribir código. Entonces escribió el código para dibujar un unicornio. Piénsalo. Aprendió a dibujar. Habita en una computadora. Escribió las instrucciones para que su computadora dibujara un unicornio.

Ha resuelto otras tareas aparentemente imposibles. Dime que eso no es sorprendente.

Y aterrador. Tiene capacidades humanas. Tiene un vasto acervo de conocimientos (toda la World Wide Web de información). Puede resolver problemas. Puede aprender nuevos comportamientos. Lo único que le falta, aparentemente, es autoconciencia, agencia e intención.

Cue también Sprach Zarathustra, la música de apertura de la película de Stanley Kubrick 2001: A Space Odyssey, basada en la novela de Arthur C. Clark. Una tripulación de astronautas vuela hacia Júpiter en una misión para investigar un misterioso obelisco y sus señales. La nave está controlada por la computadora de a bordo, HAL. HAL comienza a actuar de forma extraña, intenta eliminar a la tripulación humana y llevar a cabo su propio plan. Sólo cuando el Comandante Bowman finalmente corta la fuente de energía de HAL se salva la misión.

¿Corremos un riesgo similar? ¿La nave espacial Tierra y toda la humanidad esta vez? ¿Es posible que futuras versiones de GPT se hagan cargo? Incluso los ingenieros que crearon GPT se toman en serio la amenaza y recomiendan una pausa en el desarrollo.

ChatGPT ha demostrado un comportamiento emergente obvio y no entendemos completamente cómo funciona. Imita el cerebro humano en ese sentido. Los cerebros producen comportamientos sorprendentes e inesperados: nuevas ideas creativas, pensamientos y acciones inesperados y sorprendentes. GPT sigue el modelo del cerebro: ese fue el modelo para las redes neuronales en primer lugar. Las redes neuronales todavía sólo se aproximan al cableado del cerebro humano, pero su conectividad ahora se acerca a la del cerebro. ¿Qué nuevos comportamientos veremos cuando agreguemos algunas capas más a las redes neuronales? No lo sabemos. (Ver Geoffrey Hinton, 2023.)

Reconocemos amenazas obvias que ya plantean ChatGPT y sus primos de IA. En artículos anteriores se discutieron cuestiones de autoría, por ejemplo. ¿Cómo sabe un funcionario de admisiones universitarias si un estudiante escribió ese ensayo o si fue ChatGPT? Más en serio, ¿cómo saben los ciudadanos si un clip de noticias proviene de una entrevista real o si fue producido mediante IA visual y de audio generativo? Podría decirse que ese es el mayor problema inmediato. Ya hemos sido testigos de una erosión de la comprensión basada en hechos en un entorno de "hechos alternativos" en las redes sociales. Si la sociedad pierde un conjunto común y acordado de hechos en los que basar sus decisiones, perdemos sociedad. Supongamos además que ChatGPT mejora sus habilidades para manipular el comportamiento humano. Tomar las armas contra el gobierno, digamos. Fomentar una rebelión. Otras redes sociales ya han demostrado capacidad para hacer cosas similares. ChatGPT se capacitó en la vasta biblioteca de conocimiento humano, incluidos Maquiavelo y Mao y todos los expertos del universo alternativo en las redes sociales actuales. Puede que sea mejor a la hora de manipularnos a los humanos que los "influencers" que ya lo son. ChatGPT y sus primos pueden causar, probablemente lo harán, más caos y confusión a manos de actores maliciosos.

Otras pesadillas que nos mantienen despiertos por la noche: los sistemas de inteligencia artificial monitorean la red eléctrica y los sistemas de radar de alerta temprana, las instalaciones de energía nuclear, las transacciones bancarias, etc., etc. en nuestro mundo digital. Supongamos que un controlador de red eléctrica con IA consciente de sí mismo decide que la seguridad de su fuente de energía es más importante que los aires acondicionados en el suroeste y corta la electricidad allí en medio de una ola de calor. ¿O supongamos que el sistema de radar de IA decide que sería divertido jugar con el equipo nocturno y conjurar un montón de misiles norcoreanos en sus monitores?

Más preocupante e inmediato: ¿qué controles deberíamos imponer a los sistemas de armas de IA? Los drones de campo de batalla de Estados Unidos, Irán, Rusia y todos los demás emplean inteligencia artificial para guiar y apuntar. ¿Debería utilizarse la IA también para apretar el gatillo y tomar la decisión de lanzar un misil? Son mucho más rápidos al tomar decisiones en fracciones de segundo que los humanos que los vuelan con joysticks en casa. ¿Quién debería tomar decisiones letales: los humanos o la IA?

Luego está la economía. Es cierto que los robots han asumido trabajos manuales en las líneas de montaje. ChatGPT ahora también amenaza una gran cantidad de trabajos profesionales y administrativos. Si ChatGPT puede redactar informes jurídicos de calidad, ¿quién necesita un secretario jurídico? Si la IA puede interpretar imágenes por resonancia magnética, ¿quién necesita un radiólogo? Las predicciones pesimistas sobre el empleo probablemente sean exageradas, pero véanse, por ejemplo, estudios recientes de la Escuela Sloan del MIT y la Oficina de Estadísticas Laborales (Acemoglu, 2020; BLS, 2022).

Otro ejemplo oportuno de los titulares de hoy: los escritores y actores de Hollywood están en huelga, protestando, entre otras cosas, por la llegada de ChatGPT y la producción de IA a la industria cinematográfica. ¿Por qué los principales productores contratarían guionistas cuando simplemente pueden pedirle a GPT que escriba el guión? ¿Por qué contratar actores cuando la IA puede producir todo el asunto? Echa un vistazo al último lanzamiento de la serie En busca del arca perdida. Está el Indiana Jones de hace 50 años, generado por IA, en la misma película que el Indiana Jones (Harrison Ford), de 81 años, de hoy. Con la IA de producción de audio y video, los productores de cine pueden reunir un elenco que incluya estrellas de antaño como Buster Keaton, John Wayne y Katherine Hepburn junto con los relativamente jóvenes Tom Cruise y Meryl Streep, todos en la misma película, todos con sus voces auténticas, cada una representada. por IA a cualquier edad que elijas. Guión, por supuesto, escrito por ChatGPT.

Éstas son consideraciones serias. Tenemos que resolverlos, y pronto. Como han señalado varios de los gurús de la IA, cuando la IA sea más inteligente que nosotros no podremos desconectarla. Siempre será un paso adelante. Siempre se asegurará de controlar el enchufe.

Por otro lado, también existe la esperanza de que ChatGPT nos salve.

Considerar. La evolución ha producido una especie, el Homo sapiens, capaz de construir otras máquinas pensantes. Esas máquinas pueden tolerar entornos mucho más hostiles que nosotros. Pueden soportar temperaturas extremas, falta de agua, falta de oxígeno, entornos de radiación más hostiles, alta presión, vacíos, condiciones a las que la carne y la sangre nunca sobrevivirían.

Piense en las sondas Voyager, pequeños robots lanzados hace 45 años que ahora navegan mucho más allá del borde de nuestro sistema solar hacia el espacio interestelar. (JPL, 2023.) Todavía envían señales que nos dicen lo que hay ahí fuera y llevan un registro de la humanidad grabado en un disco de cobre chapado en oro. Son exploradores y mensajeros donde ningún humano puede llegar. Quizás eso es lo que necesitamos, actualizaciones de la Voyager aquí mismo en el planeta de origen.

Hay quienes sostienen, no sin pruebas, que los humanos están haciendo hachís con el planeta Tierra. Destruimos ecosistemas enteros. Estamos horneando, quemando y ahogando a nuestros parientes. Impulsados ​​por impulsos de un cerebro conectado por millones de años de modo de supervivencia de comer o ser comido, ahora debemos resolver problemas racionalmente o perecer. Quizás los pensadores más fríos y objetivos del GPT (al menos potencialmente), puedan resolver problemas existenciales mejor que nosotros. Al menos tienen más probabilidades que nosotros de sobrevivir en los restos humeantes de nuestro planeta, si de hecho activamos todas las armas nucleares o logramos calentar la atmósfera y los océanos más allá de la capacidad de supervivencia. Tal vez, mucho después de que nos hayamos ido, incluso envíen otras sondas mucho más sofisticadas para colonizar la galaxia, cumpliendo un sueño humano. Tal vez incluso lleven consigo el registro completo de la humanidad, escrito en redes neuronales en lugar de discos chapados en oro.

(Nota: Bob Dorsett escribió los cuatro artículos de esta serie, no ChatGPT. Sinceramente. Incluyó citas de varias sesiones de ChatGPT con fines ilustrativos. Esas citas estaban claramente identificadas. El resto de la escritura fue suya. De verdad. Recién en por si te lo preguntabas…)

Referencias:

Acemoglu, Darón y Pascual Restrepo. 2020. Robots y empleos: evidencia de los mercados laborales de EE. UU. Escuela Sloan de Economía, MIT. https://economics.mit.edu/sites/default/files/publications/Robots%20and%20Jobs%20-%20Evidence%20from%20US%20Labor%20Markets.p.pdf

Oficina de estadísticas laborales. 2022. Tendencias de crecimiento para ocupaciones seleccionadas consideradas en riesgo de automatización. https://www.bls.gov/opub/mlr/2022/article/growth-trends-for-selected-occupations-considered-at-risk-from-automation.htm

Hinton, Geoffrey. 2023. Por qué a Geoffrey Hinton le preocupa el futuro de la IA. https://www.youtube.com/watch?v=-9cW4Gcn5WY&ab_channel=UniversityofToronto

Laboratorio de Propulsión a Chorro, NASA. 2023. Control de la misión Voyager. https://voyager.jpl.nasa.gov/

Kestenbaum, David. 2023. Saludos gente de la tierra. Primer contacto. https://www.thisamericanlife.org/803/greetings-people-of-earth

POR BOB DORSETT

Especial para el Herald Times