La inteligencia artificial (IA), una tecnología en constante expansión, plantea desafíos significativos relacionados con los sesgos inherentes a sus sistemas. Estos sesgos, que se originan en los datos utilizados para su entrenamiento, pueden generar resultados discriminatorios y tener repercusiones profundas en la vida de los individuos y en la sociedad en general. Es imperativo comprender la mecánica detrás de la creación de estos sesgos, así como las estrategias para identificarlos, mitigarlos y establecer un marco regulatorio robusto que asegure un desarrollo y uso responsable de la IA. La supervisión humana y la transparencia algorítmica emergen como pilares fundamentales para construir un futuro digital más justo y equitativo.
La historia de Robert Julian-Borchak Williams, un residente de Detroit, ilustra vívidamente cómo la inteligencia artificial puede impactar negativamente la vida de una persona. Detenido sin explicación y posteriormente interrogado, Williams fue vinculado a la escena de un robo por un sistema de reconocimiento facial. Este caso, que evoca la atmósfera kafkiana de 'El Proceso', donde Josef K. es juzgado sin conocer su crimen, subraya la deshumanización y la opacidad que ciertos algoritmos pueden introducir en los sistemas judiciales. La liberación bajo fianza de Williams por falta de pruebas, a pesar del uso continuo de esta tecnología por parte de la policía, pone de manifiesto la necesidad urgente de abordar la fiabilidad de estos sistemas, especialmente cuando producen falsos positivos que son aceptados como verídicos.
Para entender la neutralidad tecnológica, es crucial analizar cómo la IA procesa la información. Un sistema de IA aprende de los datos, imitando la toma de decisiones humanas a través del reconocimiento de patrones. Si un sistema se entrena con un conjunto de datos incompleto o sesgado, por ejemplo, solo con imágenes de perros marrones y negros, no podrá identificar correctamente un perro blanco, ya que su conocimiento del mundo se limita a los datos proporcionados. Esta limitación inherente significa que si los datos de entrenamiento contienen prejuicios o no representan a ciertos grupos demográficos, la IA replicará y amplificará esos sesgos. En el caso de algoritmos de aprendizaje automático no supervisado, la máquina aprende de forma autónoma a partir de millones de datos sin intervención humana, lo que dificulta incluso para sus creadores explicar cómo se toman las decisiones.
La filósofa Adela Cortina, en su obra '¿Ética o ideología de la inteligencia artificial?', enfatiza la necesidad de que los usuarios del mundo digital comprendan la trazabilidad de los algoritmos que afectan sus vidas. Es fundamental conocer quién los construye, con qué sesgos y con qué objetivos. Dado que la IA puede influir en la vida de cientos de millones de personas, el imperativo de la explicabilidad es exigente. Nuria Oliver, doctora en IA por el MIT y directora de la Fundación ELLIS de Alicante, resalta que la tecnología no afecta a todos por igual, y esta desigualdad puede surgir de datos sesgados, modelos de IA deficientes o un uso inadecuado de las herramientas. Oliver y su equipo se dedican a hacer la IA más explicable y a promover la justicia algorítmica para mitigar la discriminación y los estereotipos, reconociendo que los sistemas de IA no solo reproducen patrones de discriminación existentes, sino que también pueden exacerbarlos.
Un ejemplo palpable de cómo los sesgos algorítmicos afectan a la sociedad es la discriminación de género en el ámbito laboral. Oliver señala que los procesos de selección de personal asistidos por IA han mostrado una preferencia por candidatos masculinos, excluyendo a mujeres de oportunidades laborales. Para identificar y mitigar estos sesgos, Oliver propone un enfoque en tres niveles: auditar los datos para detectar desequilibrios, aplicar técnicas de mitigación durante el entrenamiento del modelo (como la regulación y el aprendizaje contrafactual) y evaluar el modelo con métricas de equidad, monitoreando continuamente para identificar patrones de discriminación. Joaquina Salado, Head of AI Ethics en Telefónica, refuerza esta idea al explicar cómo su equipo asegura que los algoritmos que desarrollan no utilicen variables sensibles como el género y que el asistente virtual Aura sea inclusivo, comprendiendo diferentes acentos y dialectos para evitar la discriminación.
La regulación de la inteligencia artificial es un tema central en el debate global. Países como Estados Unidos y China compiten por el liderazgo en IA, mientras que la Unión Europea ha establecido normativas para su desarrollo y uso responsable. Nuria Oliver y Cristina Álvarez Álvarez, Head of Technology and Operations de Santander España, abogan por un marco regulatorio sólido que garantice la seguridad y confiabilidad de las soluciones de IA a largo plazo. Salado añade que la regulación no debe frenar la innovación, sino promover un equilibrio entre esta y la responsabilidad. Instituciones como la UNESCO buscan establecer estándares éticos mundiales para asegurar que la IA beneficie a toda la humanidad, protegiendo a las personas, la sociedad y el medio ambiente. Es crucial ver la IA como una herramienta para la productividad, pero siempre manteniendo un pensamiento crítico y garantizando que la decisión final en cualquier proceso importante recaiga en un ser humano, como señala Adela Cortina. Solo así se podrá asegurar la rendición de cuentas y la posibilidad de apelar ante fallas del sistema, evitando escenarios distópicos.
