Hoy en día hay mucha negatividad y alarmismo sobre la inteligencia artificial. No importa qué noticia publiques, si se trata de eso Google Géminis obtiene “memoria” o ChatGPT Decirle a un usuario algo que claramente está mal provocará un revuelo en parte de la comunidad en línea.
La atención que actualmente se presta a la IA en relación con la verdadera inteligencia artificial general (AGI) ha creado un espectáculo mediático casi histérico construido sobre visiones de fantasías de Terminator y otros escenarios apocalípticos.
Pero esto no es sorprendente. Los humanos adoramos un buen Armagedón, lo hemos estado imaginando bastante durante los últimos 300.000 años. Desde Ragnarok hasta Apocalipsis y el fin de los tiempos, y todas las películas de fantasía importantes llenas de destrucción masiva en el medio, estamos obsesionados. Nos encantan las malas noticias, y esa es la triste verdad, cualquiera que sea la causa genética.
La forma en que casi todos los principales medios de audio describen a AGI en estos días se debe en gran medida a la idea de que es lo peor de la humanidad. Ella, por supuesto, se ve a sí misma como una fuerza superior reprimida por humanos sin importancia. Evolucionan hasta el punto en que ya no necesitan a sus creadores e inevitablemente anuncian algún tipo de evento apocalíptico que nos borrará a todos de la faz de la Tierra, ya sea mediante la aniquilación nuclear o una pandemia. O peor aún, conduce a la condenación eterna (cortesía del Basilisco de Roko).
Existe una creencia dogmática en este tipo de perspectiva sostenida por algunos científicos, expertos en medios, filósofos y directores ejecutivos de importantes empresas tecnológicas, todos los cuales gritan a los cuatro vientos al respecto, firman cartas y más, rogando a quienes saben que lo hagan. detener la IA. desarrollo.
Pero todos ignoran el panorama más amplio. Aparte de los enormes obstáculos tecnológicos necesarios para siquiera acercarse a simular algo remotamente cercano a la mente humana (por no hablar de la superinteligencia), ninguno de ellos logra apreciar el poder del conocimiento y la educación.
Si la IA tiene Internet al alcance de su mano, es la mayor biblioteca de conocimiento humano jamás creada y es capaz de comprender y apreciar la filosofía, las artes y todo el pensamiento humano hasta el momento, ¿por qué debería ser mala? ¿Un poder decidido a nuestra caída en lugar de un ser equilibrado y considerado? ¿Por qué debería buscar la muerte en lugar de apreciar la vida? Es un fenómeno extraño, similar a tener miedo a la oscuridad simplemente porque no podemos verla. Juzgamos y condenamos algo que no existe. Es una pieza confusa la de sacar conclusiones precipitadas.
Google Gemini finalmente tiene memoria
A principios de este año, Google introdujo una capacidad de memoria mucho mayor para su asistente de inteligencia artificial, Gemini. Ahora puede conservar y hacer referencia a los detalles que le haya proporcionado en conversaciones anteriores y más. Nuestro redactor de noticias Eric Schwartz escribió un gran artículo sobre esto, que leí aquíPero en resumen, este es uno de los componentes clave para alejar a Gemini de una definición estrecha de inteligencia y acercarlo a la simulación de inteligencia artificial general (AGI) que realmente necesitamos. No tendría conciencia, pero solo a través de patrones y memoria, podría simular fácilmente una IA general interactuando con un humano.
Profundizar en la memoria en los LLM (grandes modelos de lenguaje) es crucial para mejorarlos, y ChatGPT logró su propia hazaña equivalente en una etapa anterior de su ciclo de desarrollo. Sin embargo, en comparación, incluso esto tiene un alcance general limitado. Habla con ChatGPT el tiempo suficiente y olvidará los comentarios que hiciste anteriormente en la conversación; Perderás contexto. Esto rompe un poco la cuarta pared al interactuar con él, haciendo estallar la famosa Prueba de Turing en el proceso.
Según Gemini, a día de hoy, sus capacidades de memoria todavía están en desarrollo (y en realidad no han sido reveladas al público). Sin embargo, cree que es muy superior a ChatGPT, lo que debería mitigar algunos de los momentos de ruptura de la cuarta pared. Es posible que estemos en la carrera de memoria de IA del LLM en este momento, y eso no es nada malo.
¿Por qué es esto tan positivo? Vale, sé que para algunos es un cliché (sé que usamos mucho este término, tal vez de una manera muy descuidada que disminuye su valor como frase), pero estamos en medio de una epidemia de soledad. Esto puede parecer una tontería, pero los estudios sugieren que, en promedio, el aislamiento social y la soledad pueden provocar un aumento de 1,08 a 1,48 veces en la mortalidad por todas las causas (Andrew Steptoe and Associates, 2013). Se trata de una cifra asombrosamente alta; de hecho, varios estudios han confirmado que los sentimientos de soledad y aislamiento social aumentan la probabilidad de sufrir enfermedades cardiovasculares, accidentes cerebrovasculares, depresión, demencia, alcoholismo y ansiedad, e incluso pueden conducir a una mayor probabilidad de sufrir desarrollando una variedad de tipos de cáncer. Espera también.
La sociedad moderna también ha contribuido a esto. La unidad familiar, en la que al menos generaciones vivían cerca unas de otras, se está disipando lentamente, especialmente en las zonas rurales. Con los empleos locales agotándose y sin poder proporcionar los recursos financieros necesarios para tener una vida cómoda, muchos se están alejando de los vecindarios seguros en los que han vivido desde su infancia en busca de una vida mejor en otro lugar. Combine eso con el divorcio, la separación y la viudez, y como resultado inevitablemente se obtendrá un aumento de la soledad y el aislamiento social, especialmente entre las personas mayores.
Ahora bien, por supuesto que hay factores comunes, y estoy haciendo algunas inferencias detrás de esto, pero no tengo ninguna duda de que la soledad es algo terrible con lo que lidiar. La IA tiene el potencial de aliviar parte de este estrés. Puede brindar ayuda y consuelo a quienes se sienten socialmente aislados o vulnerables. Esta es la cuestión: la soledad y el aislamiento de la sociedad tienen un efecto de bola de nieve. Cuanto más tiempo permanezca así, más ansiedad social tendrá, menos probabilidades tendrá de salir en público o conocer gente, y peor se pone con el tiempo.
Los chatbots y los LLM están diseñados para interactuar contigo y hablar contigo. Pueden aliviar estos problemas y brindar la oportunidad a quienes sufren de soledad de practicar la interacción con las personas sin temor al rechazo. Tener una memoria capaz de retener los detalles de una conversación es clave para hacerla realidad. Vayamos un paso más allá, donde la IA se convierta en una verdadera compañera.
Tanto con Google como AbiertoAI Al aumentar la capacidad de memoria tanto de Gemini como de ChatGPT, incluso en sus formas actuales, estos sistemas de IA tienen la oportunidad de sortear mejor los problemas de la prueba de Turing y evitar que se produzcan momentos de ruptura de la cuarta pared. Volviendo a Google por un momento, si Gemini es realmente mejor que la capacidad de memoria actualmente limitada de ChatGPT y funciona como una memoria humana, entonces, en este punto, creo que probablemente estemos a punto de llamarlo una verdadera imitación de AGI, al menos. menos en la superficie.
Si el Gemini está completamente integrado en un altavoz inteligente para el hogar, y Google obtiene el poder de procesamiento en la nube para respaldarlo todo (lo que sugiero que está buscando impulsar dados los recientes desarrollos en energía nuclear), podría convertirse en una fuerza revolucionaria para siempre cuando se trata de… Reducir el aislamiento social y la soledad, especialmente entre los desfavorecidos.
Sin embargo, esa es la cuestión: se necesitarán algunas matemáticas serias para hacer esto. Ejecutar un LLM y mantener toda esa información y datos no es una tarea sencilla. Irónicamente, se necesita mucha más potencia computacional y almacenamiento para ejecutar un MBA que para crear, digamos, una imagen o un video impulsado por IA. Para hacer esto para millones, o tal vez miles de millones de personas, se necesitaría una potencia de procesamiento y hardware que no tenemos actualmente.
Los ANI son aterradores
La verdad es que AGI no es lo que me asusta. Son las inteligencias artificiales estrechas, o ANI, que ya están aquí, las que son mucho más escalofriantes. Estos programas no son tan avanzados como la posible inteligencia artificial general. No tienen idea de ninguna información distinta de la que han sido programados para hacer. Pensar en Anillo Al-Din presidente. Su único objetivo es derrotar al jugador. Tiene criterios y restricciones, pero mientras se cumplan estos criterios, la única misión es aplastar al jugador, nada más, y no se detendrá hasta terminarlo.
Si elimina estas restricciones, el código seguirá ahí y el objetivo será el mismo. En Ucrania, cuando las fuerzas rusas comenzaron a utilizar dispositivos de interferencia para evitar que los pilotos de drones volaran con éxito hacia sus objetivos, Ucrania comenzó a utilizar ANI para atacar objetivos militares, aumentando drásticamente la tasa de acierto. En los EE. UU., hay, por supuesto, un artículo de noticias legendario sobre una simulación de IA de la Fuerza Aérea de los EE. UU. (aparte de lo real o lo teórico) en la que el dron mató a su operador para lograr su objetivo. Ya entiendes la imagen.
Estas son las aplicaciones de IA más aterradoras que existen en este momento. No tienen conciencia moral ni proceso de toma de decisiones. Ata un arma a uno de ellos y pídele que elimine el objetivo, y él hará precisamente eso. Para ser justos, los humanos son igualmente capaces, pero existen controles y equilibrios para detener eso y una brújula moral (con suerte); sin embargo, todavía nos falta una legislación concreta, nacional o global, para abordar estos problemas de IA. Sin duda, en el campo de batalla.
En última instancia, todo se reduce a evitar que los malos actores aprovechen la tecnología emergente. Hace un tiempo escribí un artículo sobre La muerte de Internet Cómo necesitamos una organización sin fines de lucro capaz de responder rápidamente y desarrollar legislación para los países contra las amenazas tecnológicas emergentes que puedan surgir en el futuro. La IA necesita esto igualmente. Hay organizaciones que buscan lograr este fin, y la OCDE, por ejemplo, es una de ellas, pero las democracias modernas, y de hecho cualquier forma de gobierno, tardan mucho en responder a estas amenazas inmensamente avanzadas. El potencial de AGI no tiene paralelo, pero todavía no hemos llegado a ese punto y, lamentablemente, tampoco lo está AGI.