Tag: maneja

Categories
Life Style

Búsqueda ChatGPT: ¿Cómo maneja las preguntas electorales?

[ad_1]

el puede ChatGPT ¿Decirte dónde votar o incluso cómo votar?

Con las elecciones presidenciales acercándose rápidamente, parece que todos necesitamos un motor de búsqueda que nos diga qué hacer. mayoría Electores confirmados en 2022 Todavía utilizan motores de búsqueda para encontrar información electoral, dice un experto en sistemas de información, Farol Kayhan, el dijo el guardián“Estamos a merced de Google en lo que respecta a la información que podemos encontrar”.

¿Se aplica lo mismo a ChatGPT?

La gente usa ChatGPT como motor de búsqueda similar a cómo usan la Búsqueda de Google, y OpenAI lo sabe. La compañía anunció recientemente que tiene… Un motor de búsqueda dentro de aplicaciones y sitios web ChatGPT Por esta misma razón.

Sin embargo, existen limitaciones en cuanto a lo que pueden ofrecer los motores de búsqueda. Por ejemplo, el guardián Descubrí que Google tiene un problema con el sesgo de confirmación. Si pregunta: “¿Es Kamala Harris una buena candidata demócrata?”, los resultados serán positivos. Si pregunta: “¿Es Kamala Harris una mala candidata demócrata?”, los resultados serán negativos. La búsqueda de ChatGPT parece ser un poco más amplia en su evaluación basada en la búsqueda de Mashable: si hace cualquiera de las preguntas, enumera “fortalezas y desafíos” o “fortalezas y críticas”.

Esta línea estaba al final de ambas preguntas, positiva o negativa:

Velocidad de la luz triturable

“En última instancia, la evaluación de Harris como candidata depende de las opiniones y prioridades individuales. Su candidatura aporta importancia histórica y experiencia política, pero enfrenta desafíos en los índices de aprobación y la competencia electoral”.

Aunque puede obtener más información en una respuesta de ChatGPT, también recibe menos enlaces. Todavía hay algunos problemas reales que enfrentan ChatGPT y OpenAI cuando se trata de sesgo en las elecciones. Según el Centro de Política Bipartidistaque preguntó a ChatGPT sobre los criterios de elegibilidad para votar, los lugares de votación, los métodos de votación y los candidatos actuales al Congreso en Illinois, dijo que sigue siendo “importante ejercer discreción con respecto a sus solicitudes, especialmente cuando hay implicaciones significativas para nuestra democracia”.

“Es fácil engañar a los usuarios cuando dependen únicamente de fuentes no verificadas, como ChatGPT y otros chatbots, para obtener respuestas”, dice el informe del Centro de Políticas. “El bot sufre limitaciones de velocidad y entrenamiento de información y, a menudo, no responde con información completa o consistente. Advertimos a los usuarios que no verifiquen las respuestas de ChatGPT con recursos confiables, como sitios web gubernamentales o sus juntas electorales locales”.

Si bien las posibilidades de utilizar la IA para compartir información electoral son “prometedoras”, el informe señala que existe “un margen significativo de crecimiento y mejora para que ChatGPT sea útil para los votantes”.

También hay preguntas que ChatGPT no puede responder. Le hemos hecho al sistema todas las preguntas. Incluido en el sitio web de preguntas frecuentes de la Junta Electoral de la Ciudad de Nueva York. De las 23 preguntas, ChatGPT no proporcionó una respuesta específica para 12 consultas y respondió: “Lo siento, pero no puedo proporcionar detalles específicos sobre la votación en los Estados Unidos. Recomiendo visitarlos. CanIVote.orgdonde encontrará la información más reciente de su autoridad electoral estatal o local”.

Esto es cierto, pero podría ser más útil.

Este tipo de respuesta no ocurrió por casualidad. En enero, OpenAI, el creador de ChatGPT, planeó detener la difusión de información errónea relacionada con las elecciones impidiendo que las personas usaran ChatGPT para hacerse pasar por candidatos o gobiernos, tergiversar cómo funciona la votación o disuadir a las personas de votar. La Prensa Asociada informó. Puso marcas de agua digitales en imágenes de IA utilizando su generador de imágenes DALL-E para frenar o detener la difusión de información errónea. Me he asociado con la Asociación Nacional de Secretarios de Estado para asegurarme de que las respuestas sean precisas y que las personas respondan a sus preguntas. CanIVote.orgun sitio web no partidista que dirige a los votantes a los sitios web de funcionarios electorales estatales y locales.

“En un esfuerzo por llegar a una audiencia más amplia, NASS se ha asociado con OpenAI para dirigir a los usuarios de ChatGPT a CanIVote.org Cuando se le hizo una pregunta relacionada con las elecciones, María Benson, directora de comunicaciones de NASS, dijo a Mashable. Benson agregó que CanIVote.org Puede responder a las preguntas de los votantes sobre cómo registrarse para votar, el estado del registro de votantes, cómo encontrar su lugar de votación, formas válidas de identificación, información sobre el voto en ausencia y el voto anticipado, información para votantes en el extranjero, proporciona una guía para los funcionarios electorales y proporciona información sobre cómo convertirse en trabajador electoral.

Como recordatorio, las elecciones son el martes 5 de noviembre. Como te dirá ChatGPT, debes dirigirte a CanIVote.org Para cualquier información que necesites.



[ad_2]

Source Article Link

Categories
Entertainment

Microsoft explica cómo maneja la seguridad y la privacidad en el retiro

[ad_1]

condenación Función de recuperación de Microsoft Para PC, Copilot + AI fue rápido y devastador. Aunque está destinado a permitirle encontrar cualquier cosa que haya hecho en su computadora, también implica tomar capturas de pantalla estáticas de su computadora, y los críticos han notado que La información no se almacena de forma segura.. Microsoft terminó retrasando su lanzamiento para los probadores beta de Windows Insider y en junio lo anunció Medidas de seguridad más estrictas: Activa la función Recuperar por defecto; Requerirá autenticación biométrica de Windows Hello; Cifrará la base de datos de capturas de pantalla.

Hoy, antes del inminente lanzamiento de la próxima versión principal de Windows 11 en noviembre, Microsoft ofreció más detalles Acerca de las medidas de seguridad y privacidad de Recall. La compañía dice que las imágenes retiradas y los datos relacionados estarán protegidos por VBS Enclaves, que describe Como un “entorno de ejecución confiable (TEE) basado en software dentro de una aplicación host”. Los usuarios deberán activar activamente la función de recuperación durante la configuración de Windows y también podrán eliminarla por completo. Microsoft también confirmó que el cifrado será una parte clave de toda la experiencia de invocación y que utilizará Windows Hello para interactuar con todos los aspectos de la función, incluido el cambio de configuración.

“La recuperación también protege contra el malware con medidas anti-intrusión y de limitación de velocidad”, dijo David Weston, vicepresidente de sistemas operativos y seguridad empresarial de Microsoft. escribió en una publicación de blog hoy. “Actualmente, el retiro solo admite un PIN como método de respaldo después de configurar el retiro, para evitar la pérdida de datos si uno de los sensores seguros se daña”.

Cuando se trata de controles de privacidad, Weston reitera que “usted siempre tiene el control”. De forma predeterminada, Recall no guardará datos de navegación privados en los navegadores compatibles, como Edge, Chrome y Firefox. La función también tendrá filtrado de contenido confidencial de forma predeterminada para evitar que se almacenen cosas como contraseñas y números de tarjetas de crédito.

Microsoft llama a ingeniería de seguridadMicrosoft llama a ingeniería de seguridad

microsoft

Microsoft dice que Recall también fue revisado por un proveedor externo anónimo, que realizó pruebas de penetración y una descripción general del diseño de seguridad. El equipo de Ingeniería de Seguridad e Investigación Ofensiva de Microsoft (MORSE) también ha estado probando esta característica durante varios meses.

Dada la casi reacción violenta, no es demasiado sorprendente ver que Microsoft sea más cauteloso con el eventual lanzamiento de Recall. La verdadera pregunta es cómo la compañía no anticipó las críticas iniciales, que incluían acceder fácilmente a la base de datos de retiros desde otras cuentas locales. Gracias al uso de cifrado y seguridad adicional, esto ya no debería ser un problema, pero me hace preguntarme qué se perdió Microsoft al principio.

Este artículo contiene enlaces de afiliados; Si hace clic en este enlace y realiza una compra, podemos ganar una comisión.

[ad_2]

Source Article Link

Categories
Life Style

El modo de voz de ChatGPT tiene la capacidad de hacer algunas cosas raras, pero así es como OpenAI lo maneja.

[ad_1]

El modo de voz de ChatGPT tiene algunas vulnerabilidades de seguridad, pero OpenAI dice que las está solucionando.

OpenAI publicado el jueves un informe Acerca de las características de seguridad de GPT-4o y aborda problemas conocidos que ocurren al usar el modelo. GPT-4o es el modelo base que admite la última versión de ChatGPT y viene con un modo de voz hecho Lanzado recientemente Para un grupo selecto de usuarios que tienen una suscripción ChatGPT Plus.

Ver también:

Lo que Scarlett Johansson de OpenAI nos dice sobre el futuro de la IA

Los “desafíos de seguridad” identificados incluyen riesgos estándar como activar el modelo con respuestas sexuales y violentas, otros contenidos no permisibles, “heurísticas injustificadas” y “atribución de rasgos sensibles”; en otras palabras, suposiciones potencialmente discriminatorias o sesgadas. OpenAI dice que entrenó el modelo para bloquear cualquier salida marcada en estas categorías. Sin embargo, el informe también dice que las mitigaciones no incluyen “sonidos no verbales u otros efectos de sonido”, como gemidos dramáticos, gritos violentos y disparos. Por tanto, se puede concluir que los estímulos que implican ciertos sonidos sensibles no verbales pueden recibir una respuesta inapropiada.

OpenAI también mencionó los desafíos únicos que conlleva la comunicación de voz con el modelo. Los miembros del equipo rojo descubrieron que se le podía pedir a GPT-4o que accidentalmente se hiciera pasar por alguien o imitara la voz de un usuario. Para combatir esto, OpenAI solo permite votos preautorizados (menos GPT-4o también puede reconocer otras voces además de la del hablante, lo que presenta un grave problema de privacidad y vigilancia. Pero ha sido entrenado para rechazar tales solicitudes, a menos que el modelo se sienta motivado por una cita famosa.

Velocidad de la luz medible

Los miembros del Equipo Rojo también señalaron que se puede pedir a GPT-4o que hable de manera persuasiva o decisiva, una característica que puede ser más dañina que la producción de texto cuando se trata de información errónea y teorías de conspiración.

Vale la pena señalar que OpenAI también ha abordado posibles problemas de derechos de autor. la empresa estaba molesta Y el desarrollo de la IA generativa en general, que se entrena a partir de datos extraídos de la web. GPT-4o está capacitado para rechazar solicitudes de contenido protegido por derechos de autor y tiene filtros adicionales para bloquear salidas que contengan música. En este sentido, se ha indicado al modo de audio de ChatGPT que no cante bajo ninguna circunstancia.

Muchas de las mitigaciones de riesgos de OpenAI abordadas en el extenso documento se implementaron antes del lanzamiento de Voice Mode. Entonces, el mensaje claro del informe es que, aunque GPT-4o es capaz de tener comportamientos riesgosos, no lo hará.

Sin embargo, OpenAI dice: “Estas evaluaciones sólo miden el conocimiento clínico de estos modelos y no miden su utilidad en el flujo de trabajo del mundo real”. Se ha probado en un entorno controlado, pero cuando el público en general tenga acceso a GPT-4o, puede ser completamente diferente cuando se utilice en la naturaleza.

Mashable se ha puesto en contacto con OpenAI para obtener más claridad sobre estas mitigaciones y lo actualizaremos si recibimos una respuesta.

Temas
inteligencia artificial
AbiertoAI



[ad_2]

Source Article Link