Los riesgos para la privacidad y la seguridad, junto con las repercusiones psicológicas y conductuales, son peligros sobre los que advierte el nuevo informe de UNICEF en medio de una "tormenta" mundial de IA y de la carrera por la IA de grandes empresas como Google y Microsoft.
Sin duda, esta avanzada tecnología ha demostrado cada vez más su potencial para cambiar la vida de las personas y ayudar de manera eficaz a los trabajadores. Sin embargo, existen controversias en torno a este tema, incluidas críticas a los productos de IA, como la violación de la privacidad, la fabricación de información falsa y el fraude académico, entre otras.
De acuerdo con UNICEF y el Foro Económico Mundial (FEM), los niños pueden ser descuidados al compartir información personal en línea, convirtiéndose así en víctimas de violaciones de datos no autorizadas.
También advirtieron que la IA podría empeorar la desigualdad y el sesgo. El especialista del FEM Seth Bargeson, encargado del proyecto de investigación “IA para los niños”, citó un ejemplo específico.
Un nuevo algoritmo de IA en el Reino Unido evaluó incorrectamente la prueba del Certificado de Educación Superior de los estudiantes. Esto da como resultado que numerosos estudiantes quedan fuera de las mejores universidades. Los expertos también advirtieron que los usuarios corren el riesgo de confiar en la IA, lo que afectará en gran medida su capacidad para tomar decisiones por su cuenta.
En 2022, las autoridades israelíes tuvieron que lidiar con más de 8.100 incidentes cibernéticos en los que las víctimas eran niños. Según un estudio, el 90% de los niños israelíes tienen acceso a Internet, de los cuales el 62% son niñas que se conectan al menos cuatro horas al día. Por lo tanto, el uso seguro de Internet por parte de los niños se convierte en una tarea urgente para todas las familias y toda la sociedad.
Utah se convirtió recientemente en el primer estado de Estados Unidos que emite una ley de requisito a los sitios de redes sociales a tenor con la cual aumenta el control parental de las cuentas de usuarios menores de 18 años.
Michael McKell, miembro republicano de la legislatura de Utah, citó estadísticas de acuerdo con las cuales el 30 por ciento de las alumnas de bachillerato tenía intenciones suicidas, demostrando el impacto psicológico de las redes sociales en los niños. En el caso de los productos de IA, los especialistas creen que los niños deben saber cómo interactuar con la IA y dotarse de pensamiento crítico y creatividad a ese respecto.
De acuerdo con Aimee Rountree, profesora de la Universidad de Texas, es necesario enseñar a los jóvenes los principios básicos de funcionamiento de la IA en un lenguaje sencillo y fácil de entender. Los expertos afirman que los pequeños deben ser capacitados a fin de tener ideas claras sobre el asunto y tomar decisiones acertadas acerca de la frecuencia y los método de uso de los modelos de IA.
Crear un ciberespacio seguro y sano para los jóvenes supone perfeccionar las leyes y políticas de control de Internet. Los padres juegan un papel importante en la construcción de un “escudo de protección” para los niños en el ámbito digital.
