Los veloces adelantos de la IA generan múltiples oportunidades para el desarrollo, pero también plantean interrogantes sobre cómo garantizar que la planificación institucional y la política avancen al mismo ritmo que la tecnológica, en un contexto en el que las altas expectativas suelen ir acompañadas de elevados riesgos.
La intensa carrera por desarrollar modelos de la IA encierra una contradicción: los líderes de grandes corporaciones tecnológicas, protagonistas de esa carrera, han pedido un freno en el ritmo de desarrollo de la IA.
Este escenario refleja un importante cambio en la estrategia de las compañías, que han pasado de competir por la prevalencia tecnológica a tratar de controlar el ritmo y los riesgos derivados de la propia tecnología.
En un artículo reciente, el director ejecutivo de Anthropic, Dario Amodei, instó a las principales empresas de IA a moderar la escalabilidad de sus modelos y a dedicar más tiempo a garantizar que las medidas de control se ajusten a las capacidades de los modelos. Este llamamiento ha recibido el respaldo de varias firmas del sector, entre ellas OpenAI.
Además de ser una cuestión tecnológica, la IA se consolida hoy en día como un asunto de máxima relevancia para la seguridad mundial. La advertencia "fuera de control" es cada vez más habitual a la hora de abordar los riesgos potenciales de esta tecnología. Varias investigaciones indican que los modelos de IA se utilizan en actividades con fines peligrosos.
Según los directivos de Anthropic, en los próximos seis a 12 meses, un gran grupo de agentes de IA estaría en condiciones de confabularse para controlar sistemas en línea a través de una botnet, una red de dispositivos electrónicos como ordenadores y teléfonos infectados con software malicioso y controlados a distancia por actores malintencionados, sin conocimiento de los propietarios. Esto podría provocar enormes pérdidas económicas.
La Secretaría del Comité contra el Terrorismo del Consejo de Seguridad de las Naciones Unidas advirtió que las organizaciones terroristas están utilizando tecnologías digitales, incluida la IA, para sus actividades de reclutamiento, especialmente de niños y adolescentes.
Pese a los enormes beneficios de la IA, es importante garantizar el papel central del factor humano en la gestión de esta tecnología. El científico Geoffrey Hinton señaló que el desarrollo incontrolado de la IA es semejante “un tanque acelerando sin frenos”. Los especialistas también destacan la urgente necesidad de reforzar la regulación y establecer mecanismos para garantizar la seguridad de la IA.
Además del papel de los gobiernos, el rol de las empresas tecnológicas se sitúa en el centro de los debates sobre el trepidante ritmo de la IA. Según la propuesta de Amodei, las compañías deben estrechar la colaboración para establecer estándares comunes sobre el ritmo de desarrollo de los modelos para que la competencia interempresarial no conduzca a ignorar las medidas de seguridad. Y reconoció que controlar el frenético avance de la IA no será sencillo.
Se prevé que la inversión mundial en el sector de la IA pase de un billón de dólares este año, alimentada por grandes expectativas de avances disruptivos y superiores en diversos ámbitos de la vida.
Los debates ya no se limitan al potencial de crecimiento, sino que incluyen cada vez más el control de riesgos. Entre las prioridades figuran la creación de marcos de gobernanza de la IA relacionados con la responsabilidad y la ética, los riesgos y la seguridad, la cooperación internacional y otros aspectos.
Garantizar un entorno digital seguro supone contar con una estrategia integral y con la contribución de todas las partes involucradas en el asunto.
