Los líderes tecnológicos unidos en la petición
Líderes tecnológicos de la talla de Steve Wozniak, Jaan Tallinn o Elon Musk se han unido a una petición que busca paralizar temporalmente los grandes experimentos con inteligencia artificial (IA) por los riesgos que pueden entrañar para la sociedad.
La petición, que busca que los laboratorios de inteligencia artificial detengan “inmediatamente y durante al menos seis meses” el entrenamiento de los sistemas de IA más avanzados, como GPT-4, ha sido firmada por más de 1.100 personas hasta el momento.
Esta se origina en la preocupación que existe sobre el desarrollo de sistemas de IA con inteligencia humana-competitiva y los riesgos que pueden representar para la sociedad y la humanidad. Los líderes tecnológicos que la respaldan argumentan que este tipo de tecnología se está desarrollando sin una planificación y gestión adecuadas.
En la carta publicada en el Future of Life Institute, los firmantes aclaran que la petición no implica detener el desarrollo de la IA en general, sino más bien frenar la carrera hacia modelos de caja negra cada vez más grandes con capacidades impredecibles y peligrosas.
La intención es asegurar que el desarrollo de la IA sea gestionado y planificado de manera segura para la sociedad y la humanidad.
Además, en la petición se resalta la importancia de trabajar de manera colaborativa con los legisladores para avanzar en la creación de sistemas sólidos de gobernanza de la IA.
Estos sistemas deben garantizar un desarrollo seguro de la tecnología, permitiendo la supervisión y auditoría de los sistemas, y responsabilizando a los responsables en caso de fugas o daños causados por la IA.