La carrera de la IA tiene muchos caminos y los chatbots se encuentran entre los más populares. Sin embargo, los expertos han descubierto que estos conocidos modelos de IA a menudo tienen fallas importantes, incluidos sesgos. Problema integral Existe un sesgo racial, ya que los sistemas de inteligencia artificial luchan por abordar con precisión preguntas sobre las comunidades de color. Ingresar Chat Negro GPTun chatbot culturalmente informado diseñado para desafiar y abordar los prejuicios de la IA.
Fue lanzado el 19 de junio y es ampliamente conocido como diecinueve de junioChatBlackGPT, un feriado federal que conmemora la emancipación de los esclavos en los Estados Unidos, tiene como objetivo crear una experiencia de IA más inclusiva.
Casi tres meses después del lanzamiento del chatbot culturalmente inclusivo, la directora ejecutiva y fundadora Erin Reddick, de 30 años, habló con Mashable sobre la plataforma y su viaje al mundo de la tecnología.
Mashable: ¿Qué es ChatBlackGPT?
Erin ReddickChatBlackGPT es inteligencia artificial culturalmente informada. [a] IA generativa basada en el reconocimiento del racismo social, económico y sistémico, y de la diáspora negra y latina en Estados Unidos. Es una oportunidad para que las personas de color tengan conversaciones relacionadas con la IA.
¿Cuál fue su experiencia con la inteligencia artificial y la tecnología antes de fundar ChatBlackGPT?
[It’s been] En total, unos cinco años. Entre Amazon, Microsoft y AWS… ha sido un viaje increíble. Trabajar con las personas más brillantes siempre ha sido inspirador y es cierto que puede resultar muy aislante. Tienes que ser fuerte y saber quién eres para triunfar en este campo. Pero me convirtió en la persona que soy hoy, que puede ser dueña de su propia narrativa en tecnología y sentirse segura al hacerlo.
¿Por qué decidiste crear ChatBlackGPT y cómo lo creaste?
Siempre me gusta decir una palabra: racismo. honestamente. Porque si no existiera, lo que hago no sería necesario, no sería celebrado y apreciado tal como es.
Por ejemplo, si se pregunta a los principales líderes actuales qué piensan sobre la tecnología, muchos de ellos dirán que es de bajo riesgo. Pero en realidad no es un riesgo bajo para las personas de raza negra y de color porque los prejuicios que persisten afectan nuestra vida diaria, dentro y fuera del entorno laboral. Es una tecnología de alto riesgo para nosotros y quiero construir algo para que no estemos estancados esperando una política que obligue a las empresas a mitigar el riesgo y tener que sufrir mientras tanto.
¿Puedes explicar el papel del sesgo en la IA?
Los prejuicios están en todas partes y es imposible eliminarlos por completo. Si le preguntas a un chatbot normal y le preguntas: “¿Qué es un trabajo negro?”, te dirá que es trabajo clandestino, que el tráfico de drogas no está sujeto a impuestos y que no hay beneficios. Pero cuando preguntas: “¿Qué hacen los blancos?”, normalmente responderán: educados, asegurados, legales y pagan impuestos. Si bien en la superficie esto puede no parecer un prejuicio, confirma un prejuicio que tienen muchas personas con un complejo racista o de superioridad, y asegura su prejuicio contra los negros. Es ofensivo porque nosotros, los negros, trabajamos en cualquier trabajo que exista, no solo en los trabajos que AI describe.
¿Qué es la “IA responsable”?
Puedo describirlo como un conjunto de datos limpio y diverso. Algo que ayude a mitigar riesgos o que sea responsable en su forma de operar sin dañar a las personas, que sea justo y que no produzca capacidad de destrucción.
el – ella Fue desarrollado teniendo en mente el trabajo en equipo y los malos actores, por lo que puedes estar seguro de que las personas que lo explotarían de manera negativa no podrán hacerlo. Está construido responsablemente para ser un diseño inclusivo. Usarlo responsablemente es, ante todo, no tomarlo en serio y confiar en él de inmediato. También asegúrese de verificar lo que está buscando y luego no coloque su información personal en estos sistemas solo para comprender cuán poderosos son y también pregunte: “¿Cuántos defectos pueden tener?”
Velocidad de la luz medible
¿Cómo se ha desempeñado ChatBlackGPT desde su lanzamiento el 16 de junio?
Fue hecho maravillosamente. Tenemos una versión beta en la tienda dedicada Open AI y hemos pasado de 1000 usuarios a 5000 desde el lanzamiento. Tenemos una calificación de 4,6, lo cual creo que es excelente porque no contiene datos de propiedad personalizables. Nuestra aplicación independiente también está funcionando bien: tenemos alrededor de 2000 personas con acceso a la herramienta y actualmente la estamos desarrollando con información patentada, trabajando con historiadores y otros expertos para asegurarnos de que refleje adecuadamente nuestra sociedad actual de una manera útil.
¿Cuáles son los beneficios de tener una experiencia de IA personalizada, o al menos una que sea más específica de la cultura de una persona?
Cuando la gente aprende sobre una cultura, es realmente importante que no se diluya y no se cuente desde la perspectiva de una mentalidad frágil o que se borren los hechos de la verdadera historia de cualquier cultura. Es muy importante respetar el hecho de que la historia sigue viva en cómo funcionan nuestros sistemas, en cómo se trata a las personas en la sociedad y en cómo percibimos el hecho de que vivimos en el mundo actual. [shows] ¿Por qué son las cosas así? Cosas como la teoría crítica de la raza existen por una razón.
Así que puedes imaginar que tener una IA que reconozca la situación actual en términos de cultura e historia es realmente importante. Muchos de los comentarios que recibo son que la gente en el pasado instó repetidamente a la IA a obtener una respuesta que realmente coincidiera con lo que estaban buscando. Incluso si producen contenido para una audiencia diversa, la diversidad no significa solo LGBTQ y personas sordas. [people]O algo así. Esto también significa que cuando busco crear un anuncio para este producto para el cabello, él entiende la porosidad, los patrones de rizos y todo lo que conlleva. [information] La integración automática de la IA crea seguridad psicológica dentro de la tecnología.
¿En qué se diferencia ChatBlackGPT de otros productos de IA culturalmente sensibles o conscientes?
En primer lugar, no hay mucha gente trabajando en este campo. Pero lo que nos diferencia es que no nos centramos únicamente en contar la historia. Nosotros también estamos capturando la historia negra moderna en este momento para no dejársela a alguien que Dios sabe cómo escribir un libro y reescribir la historia. Sin embargo, ahora buscamos cimentar la historia con nuestras voces para influir en las políticas, influir en el riesgo y mitigar el declive experimentado por las personas de raza negra y de color en la IA.
También queremos asegurarnos de que represente a la comunidad. [with a] El verdadero diseño integral es lo que nos diferencia. No estamos tratando con un grupo de personas que trabajan en segundo plano y que nunca conoces y solo ves si están encubiertos. Más bien, invitamos a las personas a contribuir y pueden verse reflejadas en lo que hacemos.
¿Por qué decidiste llamar a tu producto ChatBlackGPT?
Es más como charlar con un grupo de personas negras que con el típico GPT europeo que sueles encontrar. Está claro cuál es el problema y nadie se confunde.
¿Cuándo surgió la idea de ChatBlackGPT y cómo ha evolucionado desde su lanzamiento?
La idea surgió después de que me despidieran del trabajo; Buscaba hacerme cargo de mi relación con la tecnología. Realmente no quería dejar que conseguir un trabajo en una gran empresa de tecnología sofisticada decidiera si era o no una mujer negra en tecnología. Entonces, recuperé mi identidad estudiando IA y ubicándome entre algunas de las mejores personas expertas en ella.
Pero antes de eso Acabo de hacer mi investigación habitual y noté que aparecían varios artículos sobre la IA que borraba la historia negra. Luego profundicé en el hecho de que la IA ha estado en tantos productos y ha hecho tanto daño a la comunidad negra durante tanto tiempo, y eso fue muy triste para mí. Luego, la tercera parte que me hizo profundizar más fue sobre los negros, dándose cuenta de lo malo que era y lo malo que era. Entonces escribí un algoritmo realmente poderoso que refleja y es capaz de producir respuestas en el contexto apropiado de nuestra sociedad.
¿Por qué crees que es importante centrarse sólo en la comunidad negra frente a las comunidades de color en general?
Porque soy un experto en un tema. Esta es la única experiencia en vivo que puedo verificar personalmente y, para probar un producto, creo que se necesitan expertos dedicados a hacerlo. Entonces, para mí, eso era con lo que me sentía más seguro y con lo que podía generar el mayor impacto. Nos estamos expandiendo a otras culturas y buscamos involucrar a diferentes comunidades y paneles de consenso cultural para construir esta representación de tantas culturas como sea posible.
¿Cómo se entrena esta IA en ChatBlackGPT?
No puedes pretender representar a una comunidad con la que no hablas.
¿Tiene alguna asociación para ChatBlackGPT?
Colaboramos con cualquiera que quiera aprender más sobre la importancia de este trabajo. Por ejemplo, 11 Labs patrocina nuestro contenido de voz en off de IA. Soy profesor responsable de inteligencia artificial en la Universidad de Washington, así como en la Universidad de Emerson.
¿Por qué es importante asociarse con universidades e institutos históricamente negros? ¿Cuáles son los componentes de estas asociaciones?
Actualmente tengo previsto hablar en la Conferencia Nacional de la Casa Blanca sobre Colegios y Universidades Históricamente Negros. Buscamos atraer pasantes que esperamos sean patrocinados para ayudar a desarrollar este producto. Me encantaría que nos proporcionaran un documento técnico sobre esta experiencia y cómo utilizarla en sus interminables CV. Pueden utilizarlo para conseguir empleo o trabajar en el campo de la inteligencia artificial. Pero [I want] Dar a las personas la oportunidad de contribuir a algo que no pueden conseguir fácilmente pero que pueden ver los efectos de su contribución de inmediato.
¿Cuáles son algunos de los próximos pasos para ChatBlackGPT?
Continuaremos realizando eventos en persona donde podamos escuchar a la comunidad y asegurarnos de que nuestras voces sean escuchadas. Continuaremos apareciendo en varias conferencias y haciendo correr la voz, además de trabajar para garantizar que el producto permanezca en manos de las personas que lo necesitan.
¿Hay algo más que quieras agregar?
¡La gente debería probarlo! ChatBlackGPT beta está disponible en la tienda personalizable Open AI, solo busque GPT y nuestra herramienta estará disponible Chat Negro GBTEEntonces, puedes usar ambos, pero el punto es que fueron hechos para nosotros y por nosotros. Quiero que lo utilicen a su favor y se diviertan con ello.