Todas las tecnologías poderosas tienen leyes que las regulan. Nadie, ni siquiera los billonarios, deberían poder saltarse las medidas de seguridad.
Por eso es que un grupo de expertos en IA, tecnólogos, artistas, padres, trabajadores, líderes religiosos y académicos ha elaborado lo que denominan The Pro-Human AI Declaration:
1. Mantener a los humanos en control
El control humano no es negociable: La humanidad debe mantener el control. Los seres humanos deben decidir si delegar o no las decisiones a los sistemas de IA y cómo hacerlo.
Control humano significativo: Los seres humanos deben tener la autoridad y la capacidad de comprender, guiar, prohibir y anular los sistemas de IA.
Sin carrera por la superinteligencia: El desarrollo de la superinteligencia debería prohibirse hasta que exista un amplio consenso científico de que puede llevarse a cabo de manera segura y controlable, y se cuente con un fuerte respaldo público.
Interruptor de apagado: Los sistemas de IA potentes deben contar con mecanismos que permitan a los operadores humanos apagarlos rápidamente.
Sin arquitecturas imprudentes: Los sistemas de IA no deben diseñarse de manera que puedan autorreplicarse, automejorarse de forma autónoma, resistir su desactivación o controlar armas de destrucción masiva.
Supervisión independiente: Los sistemas de IA altamente autónomos cuya controlabilidad no sea evidente requieren una revisión previa al desarrollo y una supervisión independiente; esto implica una autoridad real para comprender, prohibir e intervenir, y no una mera autorregulación de la industria.
Honestidad sobre las capacidades: Las empresas de IA deben ofrecer descripciones claras, precisas y honestas de las capacidades y limitaciones de sus sistemas.
2. Evitar la concentración de poder
No a los monopolios de AI: Deben evitarse los monopolios de IA que concentran el poder, sofocan la innovación y ponen en peligro el emprendimiento.
Prosperidad compartida: Los beneficios y la prosperidad económica generados por la IA deben compartirse ampliamente.
Sin ayudas públicas a empresas: Las empresas de IA no deben quedar exentas de supervisión regulatoria ni recibir rescates gubernamentales.
Creación de valor genuino: El desarrollo de la IA debe priorizar la resolución de problemas reales y la creación de valor auténtico.
Firma si estás de acuerdo: la humanidad no debería adaptarse a la inteligencia artificial; la inteligencia artificial debería adaptarse a la humanidad.
Apoyo un futuro en el que la inteligencia artificial esté en servicio de la humanidad en vez de buscar reemplazar a las personas. Insto a los gobiernos a imponer medidas legales a las empresas tecnológicas para regular y controlar el alcance de la inteligencia artificial para a proteger la dignidad humana, la creatividad, el trabajo y las relaciones.