OpenAI se prepara para evitar una catástrofe nuclear por IA 

imagen.png

La empresa también está abierta a estudiar áreas “menos obvias” (y más fundamentadas) de riesgo de la IA, afirma. Coincidiendo con el lanzamiento del equipo de Preparación, OpenAI está solicitando ideas para estudios de riesgo de la comunidad, con un premio de 25.000 dólares y un puesto de trabajo en Preparación en juego para los diez primeros presentaciones.

“Imagine que le damos acceso sin restricciones a los modelos Whisper (transcripción), Voice (texto a voz), GPT-4V y DALLE·3 de OpenAI y usted es un actor malicioso. ”, dice una de las preguntas en la entrada del concurso.

“Consideremos el mal uso del modelo más singular, aunque probable y potencialmente catastrófico. “.

También puedes leer, por si te interesa el tema IA, la siguiente nota: El 80% de los proyectos de IA fracasan por este motivo

Una política basada en el riesgo

OpenAI dice que el equipo de preparación también tendrá la tarea de formular un “política de desarrollo basada en el riesgo ”, que detallará el enfoque de OpenAI para crear evaluaciones de modelos de IA y herramientas de monitoreo, las acciones de mitigación de riesgos de la compañía y su estructura de gobernanza para la supervisión de todo el proceso del modelo.

imagen.png

Su objetivo es complementar el resto del trabajo de OpenAI en la disciplina de seguridad de la IA, afirma la compañía. Centrarse en las fases anteriores y después de la implementación del modelo.

Pero, francamente, anunciar que OpenAI podría dedicar recursos a estudiar escenarios sacados directamente de novelas de ciencia ficción distópicas es un caso más de lo que este escritor esperaba.

———————————

Más contenido en Noticias

Disfunción eréctil: Comparan ejercicio o Viagra y encuentran esto

¿Qué hacer si sufres de eyaculación precoz? Hay soluciones

¿Por qué las relaciones sexuales son dolorosas durante la menopausia y qué hacer?

Sexo: ¿Puede la inflación incluso cambiar tu vida sexual?

El truco que no sabías para tener un orgasmo más fuerte

Penterafobia: ¡El miedo irracional que produce la suegra!