Solicitan regular experimentos de la IA Avanzada

Elon Musk y otros líderes tecnologícos solicitan regular avances de la inteligencia artificial (IA) por temor a posibles riesgos para la humanidad.
A través de una carta el grupo de tecnólogos argumentaron que la IA puede ser una amenaza existencial para la humanidad si no se maneja adecuadamente.
Musk y el resto de los líderes del sector piden que se regule la IA avanzada y que se establezcan estándares de seguridad claros para su desarrollo y aplicación. También han defendido la creación de organismos reguladores de IA para supervisar y controlar el desarrollo de esta tecnología.
El objetivo “simplemente es dar un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes, con capacidades emergentes».
«La investigación y el desarrollo de IA avanzada deben enfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”. se lee en uno de los fragmentos de la carta.

¿A qué aspectos de la IA avanzada temen?

Desinformación a gran escala, ciberataques y confusión entre lo real y lo artificial son algunas de las consecuencias que puede dejar el uso descontrolado de la Inteligencia Artificial, así lo reconoció a finales de 2022 Sam Altman, director de OpenAI.
Altman, al igual que Musk, quien se ha invertido en varias empresas de IA, como Tesla, SpaceX, Neuralink y OpenAI, y ha participado activamente en la promoción de la investigación y el desarrollo de la IA, temen a una tecnología incontrolable que supere a los humanos. Por ejemplo:

• Riesgo de seguridad: la IA puede ser utilizada para crear herramientas de hacking más reforzadas y ataques cibernéticos más avanzados, lo que podría poner en peligro la seguridad nacional y la privacidad de las personas.
• Falta de transparencia: la falta de transparencia en el proceso de toma de decisiones de la IA puede llevar a la discriminación y a la toma de decisiones injustas y sesgadas. Esto puede ser especialmente preocupante en aplicaciones como la selección de personal, la concesión de préstamos y la justicia penal.
• Dependencia y desplazamiento laboral: la IA puede reemplazar a los trabajadores humanos en muchas tareas, lo que puede conducir a la pérdida de empleos y a la dependencia de la tecnología. También puede generar desigualdades económicas y sociales si no se aborda adecuadamente.
• Desarrollo de la IA superinteligente: la IA superinteligente podría superar la capacidad humana de controlarla y, en el peor de los casos, llevar a una situación de riesgo existencial para la humanidad.

En resumen, los líderes no han solicitado detener completamente los experimentos en este campo. En cambio, abogan por un enfoque cuidadoso y responsable para maximizar los beneficios y minimizar los riesgos de esta tecnología.
“La humanidad puede disfrutar de un futuro floreciente con la IA. Habiendo tenido éxito en la creación de poderosos sistemas de IA, ahora podemos disfrutar de un ‘verano de IA’ en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y le damos a la sociedad la oportunidad de adaptarse. La sociedad hizo una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparados”, Así concluyeron la carta.