[ad_1]
- Itch.io fue eliminado debido a una solicitud de eliminación automática
- La razón es BrandShield impulsado por IA de Funko Pop
- El sitio web de juegos independientes se restauró aproximadamente un día después.
El lunes 9 de diciembre de 2024, tanto las cuentas oficiales de redes sociales X (anteriormente Twitter) como Bluesky del popular sitio de juegos para PC Itch.io publicaron que el dominio había sido completamente deshabilitado. ¿la razón? Servicio automatizado de “protección de marca” de IA.
Según el creador de Itch.io, Leafo (e informado por Kitjuro), el servicio BrandShield de Funko Pop marcó la página de fans de Funko Pop como una “estafa y phishing” y envió automáticamente solicitudes de eliminación al proveedor de alojamiento y registrador de dominios de Itch.io.
Aunque Leafo ya había cumplido con la solicitud de eliminación, el sistema automatizado del registrador de dominios respondió desactivando el dominio Itch.io sin ninguna intervención humana, desconectando todo el sitio.
No es broma, @OriginalFunko eliminó a @itchio porque están usando un software de protección de marca “impulsado por IA” llamado @BrandShieldltd que generó algunos informes de phishing falsos para nuestro registrador, @iwantmyname, quien ignoró nuestra respuesta y simplemente deshabilitó nuestra función.9 de diciembre de 2024
Al momento de escribir este artículo, Itch.io vuelve a estar en línea, para alivio de los jugadores y especialmente de los desarrolladores independientes que confían en él. Sin embargo, esto muestra claramente cómo el uso de servicios y sistemas impulsados por IA sin intervención o participación humana puede ser desastroso.
En este día, nos elevamos por encima del Funko Pop. El sitio está respaldado si no lo has notado.9 de diciembre de 2024
¿Por qué la inteligencia artificial no puede permanecer sin supervisión?
Dado que la IA es ampliamente utilizada y aplicable, su uso exclusivo tiene inconvenientes y desventajas. Como cualquier herramienta, puede ser de gran ayuda para muchos: sirve como corrector ortográfico y gramatical, se aplica a funciones de accesibilidad, se utiliza para traducciones directas de idiomas, automatiza trabajos repetitivos y tediosos, y mucho más.
Pero el objetivo de la ayuda de la IA es esa ayuda. Se supone que es una herramienta para facilitar tareas a gran escala pero no lo es. reemplazar Los propios humanos. Y historias como ésta son exactamente el motivo.
La IA provocó una respuesta para la que estaba programada, pero sin ningún contexto situacional sobre lo sucedido, si esos informes debían marcarse como tales y si la página de fans justificaba informarlos para empezar. Luego, otro programa de IA, que también operaba sin información ni contexto, respondió automáticamente y tomó la acción más drástica para la que había sido programado.
La única forma de corregir estos errores fue mediante la intervención humana (que tomó casi un día completo), y si los humanos hubieran estado involucrados en el proceso desde el principio, toda la situación no habría escalado hasta tal punto.
Especialmente porque la respuesta de la IA al quitar el alcance fue principalmente de Escudo de marca El cual, según su sitio web, es un servicio impulsado por inteligencia artificial que protege contra intentos de phishing y sitios fraudulentos, además de brindar “protección de marca”. Si bien este servicio parece útil e incluso vital para empresas destacadas con direcciones IP valiosas, los resultados que no pueden ser monitoreados por un humano pueden ser desastrosos.
Espero que Funko Pop e incluso el registrador de dominios, iwantmyname, hayan aprendido una lección importante sobre por qué los humanos deben ser una parte integral de cualquier proceso que involucre herramientas impulsadas por IA. Pero, sabiendo con qué frecuencia ocurren estas situaciones, lo más probable es que no.
[ad_2]
Source Article Link
