En esta entrada exploramos los aspectos éticos, explicables y legales del uso de la IA generativa, con especial atención a su implementación en el sector público.
La inteligencia artificial (IA) está transformando nuestras vidas y también la forma en que las administraciones públicas prestan sus servicios. Sin embargo, este avance plantea preguntas fundamentales: ¿puede la ética frenar el progreso? ¿Estamos preparados para entender cómo decide una IA? ¿Qué límites legales deben respetarse para proteger nuestros derechos?¿Puede la ética frenar el avance de la inteligencia artificial?
Sí, pero no necesariamente es un freno negativo. La ética actúa como mecanismo de control, evitando que la innovación tecnológica atropelle derechos fundamentales.
Además, la ética evoluciona con la sociedad. Los dilemas de hoy no son los de mañana, como demuestra el caso de los coches autónomos: ¿a quién debe salvar el vehículo en un accidente inminente? Estos debates requieren un enfoque ético flexible, pero firme.
Ejemplos provocadores
- Los Simpson y el uso de imagenes..
- Abrazos de robots: Fakenews
- Deepfakes y clonación de voz: ¿Dónde queda la verdad?
- Edición de videos y fotografías con IA: Entre arte, y los delitos.
- Evaluaciones automatizadas: ¿Puede una máquina decidir tu riesgo de reincidencia?
La explicabilidad como pilar de la IA confiable
Una IA no debe ser solo potente, sino también explicable. Esto implica:
- Interpretabilidad: Poder entender cómo funciona.
- Transparencia: Saber qué datos usa.
- Trazabilidad: Reconstruir cómo llega a una decisión.
La explicabilidad es clave para generar confianza, especialmente en el sector público, donde la legitimidad democrática exige que toda decisión pueda justificarse.
Cuando los algoritmos discriminan: sesgos reales y consecuencias
Muchas IA se entrenan con datos sesgados porque la toma de la informaciónpuede estarviciada por elementos externos (Falta privacidad,miedo…) , lo que genera discriminaciones sistémicas. Algunos ejemplos en España:
- VioGen: Evalúa riesgo en casos de violencia de género.
- RisCanvi: Predice reincidencia de internos en prisión.
- VeriPol: Detecta denuncias de robo falsas.
Pese a sus utilidades, estos sistemas plantean riesgos graves si no hay supervisión humana, transparencia y mecanismos de corrección.
Riesgos sociales y éticos del uso masivo de IA
- Idiotización: La dependencia excesiva de IA puede atrofiar nuestra capacidad crítica.
- Deshumanización: Automatizar relaciones humanas debilita el vínculo social.
- Brecha generacional: Las personas mayores corren el riesgo de exclusión tecnológica.
- Creatividad artificializada: ¿Seguimos siendo creativos o delegamos en la máquina?
- Vulneración de la privacidad: Ej. Samsung filtró código confidencial al usar ChatGPT.
Conclusión: una IA al servicio de la ciudadanía, no al revés
La inteligencia artificial no es buena ni mala en sí misma. Su valor dependerá de cómo se aplique. En el sector público, ética, explicabilidad y legalidad deben ser condiciones previas, no consecuencias.
Modernizar sí, pero sin perder el control humano.
Normas clave:
- Reglamento Europeo de Inteligencia Artificial cas para administraciones.
- Normativa sobre datos personales.
Páginas interesantes e IA utlizadas.
1.-Principios del RGPD aplicados a la IA. Mapa de tratamiento de datos.
3.- https://www.perplexity.ai/
4.- Chat GPT (TEAMS).
Algunas de mis redes sociales:
Guillermo Plaza Escribano 