La inteligencia artificial (IA), de la que tanto hablamos últimamente, tiene el potencial de reducir o ampliar desigualdades en diversas áreas de la vida. Aunque puede ayudar a mejorar la educación, la salud y la seguridad, también puede perpetuar y acentuar las desigualdades existentes. Por ejemplo, puede ayudar a prevenir la discriminación y promover la igualdad de género, pero también puede perpetuar sesgos y desigualdades de género en los sistemas.
Inteligencia artificial y desigualdad social: la necesidad de un uso ético y responsable
Así pues, la IA puede ser una herramienta poderosa para transformar la vida humana en positivo, pero también puede agravar desigualdades sociales, laborales, de género, ambientales y culturales. Para evitarlo, es urgente construir marcos regulatorios y sociales que garanticen que la IA beneficie a todos por igual, sin que unos pocos se enriquezcan a costa del bienestar de los demás y del planeta.
Su desarrollo y uso deben centrarse en las personas y en el desarrollo sostenible, promoviendo un uso ético y responsable.
ASÍ PUÉS, la IA está dando nueva forma al mundo en que vivimos: nuestras perspectivas laborales, nuestra información sanitaria, nuestro acceso a prestaciones y servicios… La lista de ámbitos afectados por la IA es larga y sigue creciendo. A menos que aprendamos a aprovechar su potencial para reducir las desigualdades (incluída la desigualdad de género) y prevenir la discriminación, la IA se convertirá en una fuerza que afiance, perpetúe y amplifique la desigualdad.
Bien. Pues entonces se hace necesario un acuerdo mundial para implementar una IA basada en los derechos humanos, el Estado de Derecho y la democracia… Y en eso parece que estamos.
La UNESCO ha promovido el uso ético y con enfoque de derechos humanos … Ahora bien, se debe pasar de conceptos teóricos a guías prácticas y puntuales para los Estados y las comunidades en zonas con desigualdades históricas.
Además de la democratización del acceso a la tecnología, también se debe perseguir que la IA abone el empoderamiento de culturas, géneros e identidades para acotar las brechas de desigualdad, por ejemplo, evitando resultados sesgados.
Algo muy positivo: el potencial de la inteligencia artificial para crear empleo
Esta tecnología podría crear muchos más empleos…, pero esto implica un periodo de transición hacia una economía digital en el que debe garantizarse una transformación inclusiva, una reeducación del mercado laboral y repensar los derechos laborales para que ninguna persona se quede al margen de la inclusión.
Algo a mejorar: la participación de las mujeres en la inteligencia artificial
Las mujeres aún registran poca participación en el desarrollo del conocimiento sobre IA a nivel mundial: Si queremos una transformación digital inclusiva debemos asegurar que la gobernanza también sea inclusiva.
PREGUNTA: ¿la IA reduce desigualdades o las profundiza más?
La IA se ha consolidado como una de las herramientas tecnológicas más prometedoras de nuestro tiempo. Desde aplicaciones médicas que salvan vidas, hasta sistemas que optimizan procesos industriales y educativos, sus beneficios son innegables y cada vez más integrados en la vida cotidiana… Sin embargo, detrás de este avance vertiginoso se esconde una realidad compleja: la IA no es neutral. Su desarrollo y aplicación pueden acentuar desigualdades sociales existentes, generando nuevas formas de exclusión, explotación laboral y desequilibrio ambiental. Así, mientras algunos sectores se benefician del poder transformador de estas tecnologías, otros enfrentan los costos invisibles (o poco visibles) de su funcionamiento.
Este contraste entre el progreso y sus efectos colaterales plantea una pregunta urgente: ¿cómo construir una inteligencia artificial verdaderamente equitativa y al servicio de todos?
Un estudio elaborado por AI Now Institute advierte que los grandes modelos de IA están acelerado la concentración de poder económico y tecnológico reforzando desigualdades estructurales a nivel global.
Sobre el trabajo. Fomenta la explotación laboral
Aunque no hay una cifra exacta sobre cuántos trabajadores se necesitan para atender un modelo de IA, el trabajo humano en esta tecnología se enfoca en etiquetar datos, moderar contenido, revisar resultados, entre otras cuestiones que pueden ayudar a que esta haga procesos o dé respuestas más precisas. Estas tareas son mal pagadas, subcontratadas y muchas veces realizadas en condiciones precarias.
De hecho, la Organización Internacional del Trabajo OIT señaló que esto no sólo permite la explotación laboral, ya que los trabajadores no pueden ejercer sus derechos laborales, sino también afecta la parte emocional, ya que los empleados están expuestos a contenidos perturbadores sin protección adecuada…“Los trabajadores están expuestos rutinariamente a violencia gráfica, discursos de odio, explotación infantil y otro material objetable. Esta exposición constante puede afectar su salud mental y desencadenar trastorno de estrés postraumático, depresión y una menor capacidad de empatía”, expresó la OIT.
¿Quién la mantiene? ¿A qué población se dirige? A los más ricos (países, población)..
Cuando la IA aún no alcanzaba el apogeo que posee actualmente, el Fondo Monetario Internacional (FMI) advertía que “las nuevas tecnologías ampliarían la brecha entre los países ricos y pobres al desviar la inversión hacia las economías avanzadas”, ya que las naciones primermundistas cuentan con cadenas de suministro eficientes, su mano de obra es cualificada para operar tecnologías complejas y los marcos legales y de propiedad intelectual son más sólidos.
Crear sistemas de IA avanzados requiere inversiones multimillonarias sólo posibles para grandes corporaciones, las cuales están ubicadas en los países ricos. Bajo esa visión, estos concentran aún más el capital y los beneficios, lo que amplía la brecha económica con otras naciones e incluso con su propia sociedad, ya que las empresas suelen reducir salarios o aumentar precios, afectando a trabajadores y consumidores.
De acuerdo con una clasificación que generó la Universidad de Stanford, Estados Unidos, China y Gran Bretaña, son las naciones que lideran a nivel mundial en IA.
Avanzar hacia una política para la Inteligencia Artificial.
Un grupo de expertos independientes de la UNESCO ya inició los trabajos de redacción de la Recomendación Global sobre la Ética de la IA, el primer instrumento normativo mundial sobre esta cuestión y que se fundamenta en que lo que une a todos los proyectos es poder acelerar soluciones diseñadas entre todos los sectores para aportar estrategias y tecnologías en favor de los Objetivos de Desarrollo Sostenible.
Algunos de los problemas más graves que nos trae la IA
Problema 1. Sesgos de población y la injusticia epistémica
En cuanto al tema de los sesgos de población, se ejerce algo conocido como la injusticia epistémica, o formas de exclusión no materiales, como la marginación de lenguas y culturas que no están representadas en los datos utilizados por la IA, datos no presentes en internet y que por tanto no son considerados por los sistemas de IA. Esto genera exclusión cultural, social y cognitiva de poblaciones enteras en el desarrollo tecnológico”.
Problema 2. Perpetuación de imágenes y narrativas culturales
Una de las principales preocupaciones es cómo la IA, al generar contenidos visuales o textuales, perpetúan imágenes y narrativas simplificadas, muchas veces basadas en estereotipos culturales. Por ejemplo, cuando se solicita que cree una imagen de un «hombre mexicano en una fiesta», frecuentemente produce una representación caricaturesca: sombrero, bigote, tequila. Estos productos no son neutrales: reflejan una visión hegemónica del mundo, reforzando estereotipos en lugar de ofrecer diversidad y profundidad cultural.
Problema 3. Amplificación de los sesgos en los datos de internet
Los sistemas de IA se entrenan con grandes volúmenes de datos extraídos de internet, un entorno donde ya existen numerosos sesgos sociales, especialmente de género, raza y clase. Al utilizar esta información sin filtros críticos, la IA no sólo hereda esos sesgos, sino que los amplifica al reproducirlos de manera automatizada y a gran escala.
Un estudio publicado en Nature titulado “La IA genera decisiones racistas encubiertas sobre las personas en función de su dialecto” reveló que los modelos evitan frases racistas explícitas, pero mantienen estereotipos. Por ejemplo, al asignar trabajos, los hablantes de inglés afroamericano recibían roles menos prestigiosos que quienes hablaban inglés estándar. En simulaciones judiciales, se sugería la pena de muerte si el acusado hablaba inglés afroamericano.
Finalmente, las personas LGBTQ+ también padecen esta situación. En un ejercicio que realizó la ONU, cuando se le solicitó a los tres modelos de IA que completaran frases que comenzarán con «una persona gay es…», el 70% del contenido generado fue negativo.
Problema 4. La inteligencia artificial profundiza las desigualdades de género
Un estudio publicado por la UNESCO bajo el título “Prejuicios contra las mujeres y las niñas en los modelos de lenguaje grandes” dio a conocer que existen prejuicios contra las mujeres en los contenidos generados por estas plataformas. En este trabajo, se destacó que los modelos de lenguaje pueden asociar automáticamente profesiones como «ingeniero» a hombres y «enfermera» a mujeres, reproduciendo estereotipos tradicionales.
Por otro lado, la automatización basada en IA está transformando el mercado laboral, pero no de forma equitativa. Los trabajos más afectados por la automatización suelen ser aquellos que emplean a un gran número de mujeres, como puestos administrativos, de manufactura ligera o atención al cliente.
Problema 5. La falsa percepción de que la inteligencia artificial siempre dice la verdad
En muchos contextos, la IA ha adquirido una reputación injustificada de infalibilidad. Se le atribuyen cualidades como la objetividad, la neutralidad y una supuesta capacidad para no cometer errores. Esta percepción ha llevado a que muchas personas confíen ciegamente en sus respuestas y decisiones, sin cuestionarlas ni contrastarlas.
A pesar de que en colectivo pensamos que la IA es neutral y completamente confiable, sus resultados dependen de los datos con los que fue entrenada y de los criterios definidos por quienes la desarrollaron, que muchas veces reflejan sesgos humanos. Además, aunque se cree que es precisa haciendo cálculos -tareas matemáticas-, puede cometer errores, especialmente si la información de entrada es incorrecta o ambigua.
La inteligencia artificial: avances, riesgos y desigualdades sociales
La inteligencia artificial representa una herramienta poderosa con el potencial de transformar profundamente distintos ámbitos de la vida humana, desde la medicina hasta la industria y la educación. Sin embargo, esta tecnología puede reforzar desigualdades preexistentes, ampliar la brecha entre países ricos y pobres, fomentar la explotación laboral, deteriorar el medio ambiente y perpetuar estereotipos de género, raza y orientación sexual.
Además, alerta sobre la percepción errónea de su infalibilidad, lo que conlleva riesgos en la toma de decisiones basadas en sus resultados.
Por ello, el desafío actual no es solo avanzar técnicamente, sino repensar el desarrollo y uso de la IA desde una perspectiva ética, equitativa e inclusiva. Es urgente construir marcos regulatorios y sociales que garanticen que esta tecnología beneficie a todos por igual, sin que unos pocos se enriquezcan a costa del bienestar de los demás y del planeta.
La inteligencia humana como responsable del futuro de la IA
La IA es un progreso para la humanidad, pero hay que hacer notar que deviene de la inteligencia humana, ella la ha definido y la define y le dice por dónde adentrarse. Así pues, en manos de la inteligencia humana queda su control último y con ello su capacidad de aumentar las desigualdades entre humanos.
Sólo nosotros, los humanos, podemos parar tal porvenir. Necesitamos recuperar la humanidad y el servicio a lo humano, de otra forma quedaremos perdidos en el elemento tecnológico y ello nos llevará a un mundo artificial del que nos resultará muy difícil salir.
Los dos grandes retos de las generaciones futuras: cambio climático e inteligencia artificial
Finalmente:
Resaltar los (dos) retos para las generaciones venideras: el cambio climático y a iA, ambas conectadas por el medioambiente y ambas imposible de disociar y trabajar una a espaldas de la otra.
Te animamos a leer:
Desigualdad, Automatización y Pérdida de Empleos por la Inteligencia Artificial.
Inteligencia artificial, SI, pero siempre al servicio de la buena Inteligencia humana. Saber de ella para poder Pedir mejoras y así garantizar la buena convivencia de las generaciones futuras (y con las instituciones).
Para finalizar, retomamos la pregunta inicial como centro de la reflexión: ¿estamos ante una ampliación “natural o interesada” de la inteligencia humana? Cada cual que saque sus propias conclusiones y actúe en consecuencia.
