“Los ciudadanos pueden contribuir significativamente adoptando una postura informada y crítica hacia la IA y los deepfakes. Educándose sobre estas tecnologías y fomentando el pensamiento crítico, cada persona se convierte en un eslabón vital en la cadena de defensa contra la desinformación”
La Inteligencia Artificial (IA) se ha convertido en indispensable para las unidades de negocio de las empresas. Pero, llegados a este punto, urge crear marcos reguladores sólidos que garanticen la parcialidad, la transparencia y la protección de la privacidad. Así lo consideran desde Stratesys, el hub nativo digital entre Europa y América, que defiende que la regulación ética de la IA y la lucha contra los deepfakes deben ser tendencia este 2024.
“La Inteligencia Artificial se volverá indispensable en todas las áreas de la sociedad, con un impacto profundo en sectores como la salud, donde se realizarán inversiones para mejorar diagnósticos y tratamientos; la automatización industrial, que verá una mayor eficiencia en los procesos de fabricación y logística; el comercio minorista, que experimentará una revolución en la hiperpersonalización de la experiencia del cliente; y el sector financiero, que ya se beneficia de avances significativos en la gestión de riesgos y la detección de fraudes gracias a las últimas perturbaciones tecnológicas”, explica Fran Ruiz, socio de Stratesys y experto en IA, en conversación con PRNoticias, y así responde a nuestras preguntas.
¿Por qué es crucial la regulación en la IA?
La regulación de la inteligencia artificial es crucial para mantener un equilibrio entre el avance tecnológico y la protección de los valores y derechos humanos. Reflexiones como el “problema de control” de Nick Bostrom, relativas a la evolución hacia una superinteligencia, subrayan la necesidad de actuar antes de que la evolución de la IA nos lleve a un punto de no retorno. Estos enfoques enfatizan la importancia de establecer regulaciones proactivas y robustas que no solo aborden los retos actuales, sino que también anticipen futuros desafíos. La rápida evolución de la IA subraya la urgencia de implementar marcos regulatorios sólidos para asegurar que el desarrollo tecnológico se alinee con los intereses humanos y se prevengan escenarios indeseados. En este contexto, la regulación de la IA no es solo una necesidad inmediata, sino también una inversión en nuestra seguridad y bienestar futuro.
¿Vamos tarde en este sentido?
La regulación de la IA enfrenta el desafío de igualar la rápida innovación tecnológica con marcos legales y éticos adecuados. La Unión Europea avanza en este aspecto, intentando equilibrar la protección de derechos con la promoción de la innovación, mediante normativas que prohíben ciertos usos de la IA y fomentan el desarrollo responsable. A pesar de los esfuerzos, la adaptación empresarial y la necesidad de regulaciones que evolucionen al ritmo de la tecnología subrayan la complejidad de esta tarea. Aunque enfrentamos retos significativos, todavía hay tiempo para establecer regulaciones efectivas que aseguren un desarrollo beneficioso y ético de la IA.
La ética, ¿cómo legislarla?
Para legislar la ética en la inteligencia artificial, es crucial definir principios universales como justicia y transparencia, y aplicarlos mediante marcos regulatorios que cubran el ciclo completo de desarrollo de dichos sistemas. Esto implica realizar evaluaciones éticas previas y auditorías continuas, promoviendo también la educación sobre estos principios entre quienes desarrollan y usan esta tecnología. La flexibilidad de las regulaciones para adaptarse a los avances tecnológicos y la colaboración internacional son esenciales para mantener estándares éticos uniformes en todo el mundo.
¿Qué riesgos entraña la IA para la parcialidad, la transparencia y la privacidad?
La IA implica riesgos significativos para la parcialidad, transparencia y privacidad. En términos de parcialidad, los sistemas de IA pueden perpetuar o amplificar sesgos existentes en los datos de entrenamiento, lo que resulta en decisiones injustas o discriminatorias. La transparencia es un desafío ya que los procesos de toma de decisiones de la IA pueden ser opacos, dificultando la comprensión de cómo se llega a ciertas conclusiones. En cuanto a la privacidad, la IA puede comprometerla al recopilar, analizar y almacenar grandes cantidades de datos personales, aumentando el riesgo de violaciones de datos y uso indebido de información sensible.
Destacando la necesidad de marcos reguladores sólidos, ¿qué debe hacer el legislador a la mayor brevedad posible?
Ante la necesidad imperativa de marcos regulatorios sólidos en la inteligencia artificial, el Informe del AI Index 2023 de la Universidad de Stanford resalta la urgencia de actuar, evidenciando un aumento significativo en “incidentes por un uso ético cuestionable de la IA”. Este fenómeno se ve impulsado por la democratización y el fácil acceso a modelos y herramientas como ChatGPT, Stable Diffusion, Whisper o DALL-E. Es crucial desarrollar regulaciones que aseguren la transparencia en el funcionamiento de los sistemas de IA, promuevan la equidad en su aplicación y protejan la privacidad y los datos personales de los usuarios.
¿Cómo se debe abordar las deepfakes desde la legislación?
La estrategia para abordar los deepfakes debe integrar educación, regulación y vigilancia. Encontrar el equilibrio entre la libertad y el control es clave para proteger a la sociedad sin coartar la innovación ni la expresión. Un enfoque equilibrado permitiría aprovechar los beneficios de la tecnología de IA mientras se minimizan sus riesgos potenciales.
¿Cómo hacerlo desde la educación?
Es fundamental incrementar la conciencia pública sobre los deepfakes, informando a la ciudadanía sobre su naturaleza, los riesgos asociados y cómo identificarlos. Programas educativos y campañas de concienciación pueden empoderar a las personas para que reconozcan y cuestionen el contenido dudoso, fortaleciendo así la integridad de la información y la confianza en el entorno digital.
¿Y desde la regulación?
Se debe exigir a las empresas la implementación de políticas de transparencia, como la obligatoriedad de marcar claramente el contenido generado por IA. Esto aseguraría que los consumidores estén informados sobre la naturaleza del contenido que consumen, permitiéndoles tomar decisiones más conscientes sobre la información que aceptan como verdadera.
¿Y desde la vigilancia?
La vigilancia activa de los espacios donde los deepfakes podrían ser utilizados para fines criminales es crucial. Esto implica una colaboración estrecha entre las autoridades, las plataformas de medios sociales y las organizaciones tecnológicas para detectar y actuar rápidamente ante la propagación de contenido falso o manipulado.
¿Qué deben hacer los ciudadanos para contribuir en este sentido?
Los ciudadanos pueden contribuir significativamente adoptando una postura informada y crítica hacia la IA y los deepfakes. Educándose sobre estas tecnologías y fomentando el pensamiento crítico, cada persona se convierte en un eslabón vital en la cadena de defensa contra la desinformación. Participando en debates y promoviendo prácticas éticas, reforzamos la importancia del factor humano en la era digital. Al final, se trata de empoderar a las personas para que usen la tecnología de manera consciente y responsable, asegurando que nuestras interacciones digitales reflejen los valores y la integridad que valoramos en la sociedad.
Esta entrevista se ha publicado en