Desde que los avances en inteligencia artificial han hecho saltar las alarmas sobre su potencial y riesgos, ningún gobierno, experto o empresario ha dejado de advertir sobre la urgencia de tomar medidas. En los meses posteriores al surgimiento de ChatGPT, proliferaron manifiestos apocalípticos, firmados por algunos de los pioneros en el campo de la IA. Desde entonces, algunos han pedido una pausa en su desarrollo, mientras la Unión Europea ha logrado implementar la ley del primer mundo para su regulación. Sin embargo, hay voces que piden un esfuerzo aún mayor. Un centenar de destacadas personalidades, tanto nacionales como internacionales, firman el Manifiesto OFF. Este documento destaca la vulnerabilidad de los seres humanos y sus instituciones frente a una tecnología cada vez más avanzada y autónoma, y exige acciones más decisivas y ambiciosas.
El manifiesto, que ha sido presentado este miércoles en Madrid, ha sido firmado por personas del mundo de la cultura, la ciencia, la educación, la psicología, el derecho y los medios de comunicación, como el director ejecutivo de PRISA Media, Carlos Núñez; el presidente de CaixaBank, José Ignacio Goirigolzarri; la directora de Tecnología, Medios y Comunicación de la Universidad de Columbia, Anya Schiffrin, o el director general de Atresmedia, Javier Bardají, entre otros. “Esta es una iniciativa independiente que nace de una preocupación genuina por las tendencias que revelan la enorme vulnerabilidad de los seres humanos y las instituciones ante un despliegue tecnológico mal enfocado”, explicó el empresario y escritor Diego Hidalgo, coordinador del manifiesto. “Pretende ser un primer paso hacia una movilización de la sociedad civil. Nuestro objetivo es recuperar el control de la tecnología digital, con la ayuda de la acción pública y privada”.
En esta línea, Hidalgo ha recordado los riesgos para la salud mental que supone tener un teléfono móvil a una edad temprana. “Afortunadamente, algunos de los temas abordados en el manifiesto ya empiezan a tener cierta presencia en el debate público. Uno de ellos tiene que ver con el profundo deterioro de la salud mental, especialmente entre los jóvenes, del que todavía nos resulta difícil tomar medidas. Las curvas que describen el malestar de los jóvenes van en aumento, un ascenso absolutamente vertiginoso”, recordó. Según un estudio realizado por la plataforma Sapiens Lab, el hecho de que un niño de 12 años tenga un teléfono inteligente La probabilidad de sufrir depresión en la edad adulta aumenta un 20% respecto a acceder a ella a los 18 años, mientras que el 74% de quienes la padecen desde los seis años han sufrido síntomas depresivos. En España, el 88% de los jóvenes tiene un smartphone a los 13 años.
Ana Caballero, abogada y vicepresidenta de la Asociación Europea para la Transición Digital, expresó durante la presentación su perplejidad ante la comercialización de datos. “Estamos ante tecnologías que no son neutrales. Pero sobre todo, estas empresas que comercializan nuestros datos son extracomunitarias, y nos ven a los europeos como una gran base de datos con poder adquisitivo. Lamentablemente muchas veces no somos conscientes de que pagar con datos es pagar”, explicó.
Además de centrarse en los riesgos que implican grandes innovaciones como la inteligencia artificial, el manifiesto establece una serie de medidas calificadas de urgentes para garantizar que la tecnología siga al servicio de la humanidad, y no en contra de ella. En este sentido, los firmantes abogan en primera instancia por la creación de leyes y regulaciones que limiten el mal uso de la tecnología, especialmente en términos de vigilancia, privacidad y monopolios.
Entre las preocupaciones está la posibilidad de que los Estados controlen excesivamente, y de forma generalizada, a los ciudadanos, mediante el reconocimiento facial u otras tecnologías que no garantizan el anonimato en los espacios públicos. En Estados Unidos, por ejemplo, la tecnología biométrica es ampliamente utilizada en los aeropuertos, tanto por las aerolíneas como por las agencias gubernamentales encargadas de la seguridad de la aviación. “La videovigilancia con tecnología de reconocimiento facial abre una caja de Pandora que amenaza nuestra privacidad y anonimato en los espacios públicos. Representa un salto diferencial hacia el seguimiento sistemático de nuestros movimientos y el control de nuestras vidas”, cita el manifiesto, recordando que Amnistía Internacional llamó a prohibir el uso de sistemas de reconocimiento facial porque lo consideraba una forma de vigilancia masiva.
José María Lassalle, exsecretario de Estado de Agenda Digital y director del Centro de Humanismo Tecnológico de ESADE, ha insistido en las implicaciones que la IA puede tener en las guerras. “La inteligencia artificial es algo que intenta ser alguien, pero sin conciencia. Y esto está alterando los ejes de la capacidad humana para entender esta tecnología, y se ve muy claro en el campo de las armas letales”, dijo durante la presentación. “Su aplicación en las guerras, que es una desafortunada experiencia humana que nos acompaña desde nuestros orígenes como especie, puede resultar disruptiva”.
Asimismo, el manifiesto propone la implementación de medidas regulatorias que sean “legalmente vinculantes”, con el objetivo de defender a los ciudadanos de los abusos que pueden ejercer las empresas privadas –y en algunos casos, los gobiernos de estados autoritarios–. Esto incluye la prohibición de la publicidad microdirigida, la protección de los neuroderechos a nivel constitucional, la legislación internacional contra las armas letales autónomas y el “derecho a la desconexión”, que garantiza el acceso a servicios especialmente públicos de forma no digital.
Elena Herrero-Beaumont, cofundadora de la consultora Ethosfera, se ha centrado especialmente en el acceso a los datos y la ética en el diseño de algoritmos, sugiriendo regulaciones para asegurar su integridad. “Ahora mismo es imposible que las empresas periodísticas que tradicionalmente han producido información puedan competir con las grandes plataformas tecnológicas”, advirtió Herrero-Beaumont, quien ha recomendado prevenir la publicidad microdirigida como medida crítica para evitar esta deriva.
Los firmamentos también han recomendado la implementación de iniciativas educativas para mejorar la alfabetización digital de la población, promoviendo una comprensión más profunda de los impactos y limitaciones de la tecnología, así como el desarrollo de habilidades críticas para gestionar la influencia tecnológica en la sociedad.
puedes seguir EL PAÍS Tecnología en Facebook y X o regístrate aquí para recibir nuestra boletín semanal.
