¿Puede la inteligencia artificial sentir angustia? Dentro de un nuevo marco para la evaluación de las emociones

El borde del sentido: riesgo y precaución en humanos, otros animales e inteligencia artificial Jonathan Abedul Prensa de la Universidad de Oxford (2024)

¿Puede la inteligencia artificial sentir angustia? ¿La langosta sufre en una olla cuando hierve? ¿Puede un feto de 12 semanas sentir dolor? Ignorar estas preguntas podría conducir a un desastre silencioso y lento. Responder afirmativamente demasiado rápido disminuirá innecesariamente las libertades de las personas. ¿Qué debemos hacer?

El filósofo Jonathan Birch de la London School of Economics and Political Science puede tener una respuesta a esta pregunta. Borde del sentimientoEn Man and Nature, Birch desarrolla un marco para proteger entidades que puedan poseer sensibilidad, es decir, la capacidad de sentirse bien o mal. Los filósofos morales y las religiones pueden no estar de acuerdo sobre por qué la sensación es importante o qué tan importante es. Pero en la visión pluralista de Birch, todos los puntos de vista convergen en el deber de evitar el sufrimiento injustificado. Está claro que este deber es un deber hacia los seres humanos. Pero no hay razón para pensar que no deba aplicarse a otros organismos, siempre que podamos demostrar que siente, ya sean animales de granja, grupos de células, insectos o robots.

El problema es cómo determinar si algo es consciente o no. El concepto filosófico de conciencia está lleno de diferencias fundamentales. Lo mismo se aplica a la ciencia. La interpretación de la evidencia experimental varía y falta una investigación sostenida sobre las capacidades conscientes de muchos organismos, incluidos los animales pequeños y la inteligencia artificial. Luego está el problema de la medición. En los mamíferos, los patrones de comportamiento y la actividad cerebral pueden proporcionar un rastro de mal sentimiento. Pero, ¿cuál es la prueba de conciencia para los gasterópodos, que tienen mentes y comportamientos diferentes? ¿Qué pasa con los sistemas de inteligencia artificial, que no tienen cerebro ni manifestaciones físicas de sensibilidad?

Ante esta maraña de incertidumbre, la tentación es esconderse bajo una manta y esperar que los problemas desaparezcan. Pero Birch rechaza esta táctica. Requiere un enfoque de precaución proactivo que resulte en la adopción de precauciones cuidadosas y proporcionadas ante el primer signo de sensibilidad de un ser. El marco Birch consta de dos procesos.

prueba de sensaciones

La primera de estas soluciones es que los expertos determinen las posibilidades que tiene cualquier ser de tener conciencia. Exigir un consenso es injusto: es probable que los organismos queden condenados a un sufrimiento a largo plazo o queden huérfanos por la ignorancia o la controversia científica. En cambio, Birch sugiere que el “consenso científico” debería activar protecciones. De este modo, existe un acuerdo total, incluso entre los escépticos, de que el sentimiento constituye al menos una posibilidad plausible, sobre la base de la evidencia y de una línea teórica coherente. Cuando falta un consenso científico, los organismos pueden identificarse como una prioridad para la investigación o descartarse como no inteligentes.

Los candidatos a la sensibilidad pasan luego al segundo proceso, donde comités ciudadanos inclusivos e informados trabajan para desarrollar políticas preventivas. Estas políticas deben ser proporcionales a los riesgos que puedan surgir para la capacidad de la entidad de detectar y tener en cuenta diferentes valores y compensaciones. Por ejemplo, imponer una moratoria en respuesta a la sensibilidad potencial en un sistema modelo de lenguaje grande implicaría enormes costos para la sociedad. Los comités ciudadanos que él convoca revisarán sus recomendaciones a medida que se acumule evidencia.

A continuación, Birch aborda tres áreas donde las controversias desafían las definiciones de sensación. El primero es el cerebro humano: personas con trastornos de la conciencia, fetos, fetos y el cerebro humano. organos nerviososO modelos artificiales de sistemas cerebrales. El segundo tipo son los animales no humanos, incluidos peces, moluscos, insectos, gusanos y arañas. El tercer campo es la inteligencia artificial.que incluye una maestría en derecho.

Cada sección del libro plantea desafíos no resueltos y está llena de debates filosóficos y científicos. Por ejemplo, ¿cómo se pueden tomar precauciones para los órganos nerviosos que no exhiben ningún comportamiento externo? Aquí, Birch apela a los correlatos anatómicos de la sensibilidad, como la presencia de un tronco cerebral funcional y la existencia de ciclos de sueño-vigilia. En los capítulos sobre animales nos enfrentamos al asombroso número de especies que pueden ser conscientes, al hecho de que sólo unas pocas han sido estudiadas y a la cuestión de cómo extrapolar esto a partir de ellas.

La inteligencia artificial plantea el desafío de crear pruebas sensoriales que los algoritmos, o quienes los diseñan, puedan aprender y jugar. El estudiante de LLM genera un texto sobre un “sentimiento”, no porque realmente lo sienta, sino porque el algoritmo es recompensado por imitar el sentimiento. Aquí Birch advierte contra el uso de marcadores de comportamiento para determinar el sentimiento y, en cambio, pide la búsqueda de algún tipo de “marcador computacional profundo” del sentimiento.

Birch llena su libro de humildad e incomodidad. Esto lo conquista Borde del sentimiento ¿Pero es razonable dejar tantas cuestiones sin resolver? A medida que el libro se acerca a su fin, quedan muchas preguntas. La primera pregunta se refiere al alcance del tema. Birch lanzó una amplia red, pero ¿por qué no una más amplia? En 1995, el entonces presidente estadounidense Bill Clinton describió a Estados Unidos como “en un estado de recesión”. Si se puede decir que los países tienen estados de ánimo, ¿se puede describir de manera similar que otras entidades colectivas (enjambres de abejas, corporaciones y estados) tienen un tipo de sentimiento?

Protección de sensaciones

Otra cuestión abierta se refiere a los criterios para las precauciones proporcionadas. Birch sugiere que se pida a los comités civiles que hagan concesiones entre todos los organismos vivos (incluidos los organismos actuales y futuros) y los candidatos sensibles. Cuando se trata de determinar la proporcionalidad, Birch se centra en el proceso, no en la sustancia. Pero ¿qué hace que una política sea proporcional? Dejemos de lado el hecho de que los humanos hacemos un trabajo miserable al equilibrar nuestros intereses con los de organismos conocidos, como los animales en las granjas industriales. ¿Algunas formas de sentimiento (por ejemplo, la capacidad de sentirse mal pero no bien, o la intensidad de ese sentimiento) son más pesadas que otras? ¿Sentirse más importante cuando está vinculado a otras cualidades, como la inteligencia?

Silicon Valley está fomentando el potencial de que surjan híbridos humanos-IA: deberíamos preocuparnos

Respecto al último punto, Birch se cuida de distinguir entre sensación e inteligencia. En su novela se considera que la fuente de los deberes es el sentimiento y la inteligencia, no la inteligencia. Pero, ¿podrían los seres sintientes inteligentes exigir más reservas que los seres sintientes no inteligentes? Birch se muestra reacio a desempeñar el papel de “filósofo sabio”, pero la buena filosofía puede ayudar al público a estructurar los debates sobre la proporcionalidad y la aplicación de pruebas. Este problema espera más entregas.

Sin embargo, Borde del sentimiento Este libro es uno de los libros de filosofía más importantes que se ocupa del público. En cada paso de su viaje, Birch es claro y preciso al formular sus afirmaciones. Su análisis también se caracteriza por la profundidad y la cautela, y siempre está dispuesto a revisar y modificar. Eleva el estatus de sus lectores. Sus fuentes también son generosas y amplias. El libro también hace todo lo posible por posicionarse como una guía de políticas, y cada capítulo proporciona un resumen. Birch hace un gran esfuerzo y, en mi opinión, ha logrado escribir un libro que trata temas filosóficos profundos. Cualquier persona pensante puede beneficiarse de este libro, siempre que tenga la capacidad de tolerar la incertidumbre.