By ALEJANDRO COSTA“En este momento, lo que estamos viendo es que cosas como GPT-4 eclipsan a una persona en la cantidad de conocimientos generales que tiene y la eclipsan mucho. En términos de razonamiento, no es tan bueno, pero ya es un razonamiento simple. Y Dado el ritmo del progreso, esperamos que las cosas mejoren bastante rápido, así que tenemos que preocuparnos por eso”.
En una carta abierta publicada el martes, varios de los “los padres fundadores” de esta tecnología, como Yoshua Bengio o Geoffrey Hinton,ellos abogaron por “el Desarrollo y ratificación de un tratado internacional sobre IA.“, para reducir los riesgos “Consecuencias potencialmente catastróficas que los sistemas avanzados imponen a la humanidad”.
Sin renunciar al tono preocupante, Musk afirmó en la cumbre que la IA es “una de las mayores amenazas de la humanidad. Al mismo tiempo, pidió “un árbitro independiente que pueda observar lo que hacen las empresas de IA y dar la alarma en caso de dudas”.
“Nuestro objetivo es establecer un marco para un mejor entendimiento con diversas industrias de la IA”. También aclaró que las normas no deberían aplicarse de manera que “inhibir el lado bueno de la IA”, en referencia a mejoras significativas en las capacidades y contribuciones humanas en los campos médico, científico y del Medio Ambiente.
Incluso se atrevió a aumentar el riesgo en porcentaje.. “La inteligencia artificial tiene un 20% de posibilidades de ser peligrosa y un 80% de posibilidades de ser beneficiosa”aunque admitió que es Pura especulación personal.
El hecho de que las personalidades más genuinas del mundo de la IA coincidan discursivamente y dejen de lado la competencia por el retorno económico preocupa a más de uno. Nos lleva a reflexionar sobre la relevancia del documento apocalíptico.
El anfitrión, el primer ministro. Rishi Sunak equiparado el peligro de una IA que podría desencadenar una guerra nuclear o una pandemia. De acuerdo a El guardián, “Hay razones para creer que puede representar un riesgo a una escala como las pandemias y la guerra nuclear, y es por eso que como líderes tenemos la responsabilidad de actuar para proteger a las personas, y eso es exactamente lo que debemos hacer”. .
Sunak también se reunirá Kamala Harris, el vicepresidente de los estados unidosen la cumbre del jueves y albergará debates que involucran Ursula von der Leyen, presidenta de la Comisión Europea, y Georgia Meloni, primera ministra italianaa. Líderes de otros países, incluidos Japón y Canadáunirse de forma remota.
Sin embargo, no se advierte muy dispuestos desde la UE. Muchos enviarán más ministros o funcionarios subalternos en su lugar. Emmanuel Macron, el presidente francés, y Joe Biden, Justin Trudeau, el primer ministro canadiense, y Olaf Scholzla canciller alemana tampoco asistirá.
Sunak también destacó la importante participación del propietario de Tesla en la cumbre: “Elon Musk ha sido tanto inversor como desarrollador de tecnologías de inteligencia artificial. Pero durante más de una década también ha estado hablando de los riesgos potenciales que plantean y de la necesidad de que los países y las empresas trabajen juntos para gestionar y mitigar esos riesgos”.
Peligros existenciales
Como informó Noticias, hace apenas unos años los ordenadores, entrenados mediante algoritmos, podían distinguir animales y detallar sus rasgos sin conocerlos previamente. Ahora, con relativa habilidad y a un ritmo rápido, logran componer canciones y poemas, interpretar música clásica e incluso imitar pinturas de artistas eminentes. Crean influencers falsos e incluso influyen en los resultados electorales.
En la alerta global miles de expertos preguntaron que se paralice específicamente la investigación sobre sistemas más potentes que el GPT-4,“hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la dramática perturbación económica y política (especialmente para la democracia) que provocará”. A diferencia de otros sectores, éste, al ser relativamente nuevo, no tiene un control ético o legal real.
imagen.png
En la carta aclaran que esta solicitud no significa paralizar todo desarrollo y conocimiento sobre IA sino que es “un paso atrás en la peligrosa carrera hacia modelos de caja negra cada vez más grandes e impredecibles con capacidades emergentes”.
Crear inteligencia potencialmente mejor y más sabia que la humana no es gratis e implica pagar un precio muy alto. Ni siquiera los propios creadores de inteligencia artificial pueden comprender sus creaciones o sus efectos en el futuro de la humanidad. ¿Qué será de nosotros cuando ya no sepamos distinguir entre realidad y ficción?
Yuval Harari, El historiador y filósofo israelí contemporáneo, clave para comprender el largo ascenso del hombre en la Tierra y su futura caída a manos de la IA, advirtió repetidamente: “La IA podría devorar rápidamente toda la cultura humana (todo lo que hemos producido durante miles de años), digerirla y comenzar a escupir una avalancha de nuevos artefactos culturales”.
“Un nuevo régimen en el siglo XXI tendrá herramientas mucho más poderosas. Por tanto, las consecuencias podrían ser mucho más desastrosas. Es algo que no sé si la humanidad podrá sobrevivir”.
Más contenido de Noticias
Protesta: Vaca Muerta, amenazada por “la pata menos visible”
Panamá paralizada: Protestas masivas, referéndum y golpe a First Quantum
Santa Fe: Llega el primer día de contenedores vacíos
Sergio Massa hace la maleta para ir a Córdoba: Qué lleva
Cáncer de piel: Lanzan campaña gratuita para revisar lunares