Latinoamérica necesita un sistema de reporte de incidentes de inteligencia artificial y neurotecnologías
La brecha entre identificar los daños y lograr que sean reportados puede dejar subrepresentados los impactos de la IA y las neurotecnologías sobre los derechos humanos en la región. Kamanau comenzará una colaboración con Fundación Mozilla para abordar este desafío.
Conocer los impactos de los sistemas de inteligencia artificial y las neurotecnologías requiere que los incidentes puedan identificarse, documentarse y llegar a los espacios donde se analizan. En Latinoamérica, fortalecer ese recorrido es una tarea pendiente.
Actualmente existen iniciativas internacionales como el Monitor de Incidentes y Riesgos de IA de la OCDE, que reúne información para comprender los daños y orientar las respuestas frente a la inteligencia artificial. Sin embargo, desde Fundación Kamanau identificamos una brecha importante entre las experiencias que ocurren en nuestra región y la información que llega a estas plataformas.
Si los incidentes no se reportan, sus consecuencias pueden quedar fuera del análisis. Esto puede dejar subrepresentadas las afectaciones a la privacidad, la igualdad y otros derechos fundamentales, así como sus impactos sobre niños, niñas y adolescentes y personas en situaciones de vulnerabilidad.
El desafío es desarrollar herramientas y metodologías que permitan reconocer estos hechos, documentarlos de manera segura y facilitar su incorporación tanto a los repositorios existentes como a nuevas iniciativas de seguimiento. Este esfuerzo abordará tanto la inteligencia artificial como las neurotecnologías, considerando sus efectos sobre los derechos humanos, incluida la protección de los datos neuronales y la privacidad mental.
Una colaboración con Fundación Mozilla
Para avanzar en esta tarea, Kamanau fue seleccionada como organización anfitriona del programa de fellowship de Fundación Mozilla para la cohorte 2027–2028, financiado por esa fundación.
Una persona altamente especializada en tecnología e inteligencia artificial trabajará junto a Fundación Kamanau para desarrollar herramientas abiertas, confiables y seguras de reporte y análisis de incidentes de IA y neurotecnologías.
El trabajo combinará capacidades técnicas con la experiencia de la organización en investigación, litigio estratégico y derechos humanos, buscando desarrollar una solución tecnológica a disposición de toda la sociedad, comenzando en Chile y con proyección hacia América Latina.
El propósito es que las experiencias de nuestra región sean visibles y puedan contribuir a las decisiones sobre el desarrollo y uso de estas tecnologías.
Conoce el programa de fellowship de Fundación Mozilla.
