Copyrights. Juneiska ,
2026. Todos los derechos reservados.
La contratación de personal ha dejado de ser un proceso exclusivamente humano. Cada vez más empresas tecnológicas utilizan sistemas de inteligencia artificial para filtrar currículos, evaluar competencias, predecir el rendimiento o incluso realizar entrevistas. Esta automatización promete eficiencia, pero introduce un riesgo jurídico de primera magnitud: los sesgos algorítmicos. Un sesgo puede perpetuar discriminaciones históricas por razón de sexo, edad, origen racial, discapacidad u orientación sexual, y hacerlo a una escala y con una opacidad que los métodos tradicionales no alcanzaban.
Las consecuencias legales no son menores. Una empresa puede enfrentarse a reclamaciones civiles por daños, sanciones administrativas conforme al Reglamento Europeo de Inteligencia Artificial y, en los casos más graves, responsabilidad penal corporativa. Este artículo ofrece una guía práctica para identificar esos riesgos y adoptar medidas de prevención eficaces.
La contratación algorítmica está sujeta a un entramado de normas que se superponen. El Reglamento Europeo de Inteligencia Artificial, plenamente aplicable desde 2026, clasifica los sistemas de IA destinados a la selección, promoción o vigilancia de personas trabajadoras como sistemas de alto riesgo. Esta calificación no es anecdótica: implica obligaciones estrictas de gobernanza, documentación, supervisión humana y evaluación de impacto antes de su puesta en funcionamiento.
Al mismo tiempo, la normativa de protección de datos exige que las decisiones basadas únicamente en tratamientos automatizados que produzcan efectos jurídicos o significativos cuenten con garantías adecuadas. El artículo 22 del Reglamento General de Protección de Datos permite, con limitaciones, las decisiones automatizadas, pero obliga a informar, ofrecer intervención humana y permitir la impugnación. La legislación laboral española, por su parte, prohíbe la discriminación directa e indirecta en el acceso al empleo, añadiendo una capa adicional de exigencia.
El Reglamento Europeo considera de alto riesgo todo sistema de IA utilizado para la contratación, la selección de personal, la evaluación de candidatos o la adopción de decisiones que afecten a la promoción, la asignación de tareas o la finalización de la relación laboral. La razón es sencilla: estos sistemas inciden directamente en los derechos fundamentales de las personas y pueden reproducir o amplificar desigualdades.
Para estos sistemas no basta con evitar la discriminación formal. Las empresas que los desarrollan o utilizan deben acreditar que los conjuntos de datos de entrenamiento son pertinentes, representativos y están libres de errores en la medida de lo posible. También deben mantener una documentación técnica exhaustiva, registros automáticos de funcionamiento y medidas de supervisión humana efectiva. El incumplimiento puede derivar en multas de hasta 35 millones de euros o el 7 por ciento del volumen de negocio mundial.
El Reglamento General de Protección de Datos prohíbe, como regla general, que una persona sea objeto de una decisión basada únicamente en un tratamiento automatizado que produzca efectos jurídicos o que le afecte significativamente. En el ámbito de la contratación, una puntuación algorítmica que determine quién avanza en un proceso selectivo entra de lleno en esa categoría. Las empresas deben, por tanto, prever mecanismos de intervención humana real y permitir que la persona candidata impugne la decisión.
Además, la normativa laboral española obliga a interpretar cualquier criterio de selección bajo el principio de no discriminación. Un algoritmo que utilice variables indirectamente relacionadas con el sexo, la edad o el origen puede generar discriminación indirecta aunque no contemple esas categorías de forma explícita. La jurisprudencia ha sido clara: la neutralidad aparente de un criterio no exime de responsabilidad si el resultado perjudica de manera desproporcionada a un colectivo protegido.
Cuando un sistema de IA excluye a una persona candidata por motivos discriminatorios, la empresa usuaria puede ser condenada a pagar una indemnización por daños y perjuicios. La responsabilidad civil no exige siempre una intención discriminatoria. Basta con que se acredite un resultado desigual y una conexión causal con el uso del algoritmo.
En la práctica, el principal obstáculo para las víctimas es demostrar cómo funciona el sistema y qué variables determinaron la decisión. Por ello, las propuestas normativas europeas y las resoluciones de las autoridades de protección de datos están desplazando la carga de la prueba. Si la empresa no documenta el funcionamiento del algoritmo ni conserva los registros, puede ver comprometida su defensa.
Los daños derivados de un sesgo algorítmico pueden ser patrimoniales y morales. El daño patrimonial incluye la pérdida de la oportunidad de obtener el empleo, los salarios dejados de percibir y los gastos asociados al proceso. El daño moral puede reconocerse por la discriminación en sí misma, con independencia de que la persona hubiera obtenido finalmente el puesto.
La Directiva europea sobre responsabilidad civil por inteligencia artificial introduce presunciones de cumplimiento o incumplimiento en función de la documentación existente. Si la empresa demuestra que adoptó las medidas previstas en el Reglamento de IA, tendrá más facilidad para exonerarse. Si, por el contrario, no puede acreditar la calidad de los datos ni la supervisión humana, la presunción de causalidad jugará en su contra.
La actualización de la Directiva sobre responsabilidad por productos defectuosos amplía su ámbito a los programas informáticos y a los sistemas de IA. Esto significa que tanto el fabricante del algoritmo como la empresa que lo integra en su proceso de contratación pueden responder por los daños causados por un defecto, incluido el sesgo discriminatorio.
En la relación entre proveedor y cliente, la delimitación de responsabilidades dependerá de los contratos y de quién haya controlado los datos de entrenamiento y los parámetros de uso. Por ello, las empresas deben revisar sus cláusulas contractuales para asegurarse de que el proveedor asume obligaciones claras de no discriminación, auditoría y transparencia. La falta de previsión contractual no impide la reclamación de la víctima, pero agrava la exposición interna.
El Código Penal español no contiene un delito específico de discriminación algorítmica, pero sí contempla la responsabilidad penal de las personas jurídicas por delitos contra los derechos de los trabajadores. El artículo 318 bis sanciona los supuestos en los que se impongan condiciones laborales o de seguridad social que menoscaben los derechos reconocidos por ley o por convenio colectivo, y la discriminación grave en el empleo puede integrar este tipo penal.
La utilización de algoritmos que perpetúan sesgos discriminatorios puede, por tanto, activar una investigación penal contra la empresa. La imputación no requiere que un directivo haya ordenado la discriminación. Basta con que exista un incumplimiento grave de los deberes de supervisión, vigilancia y control del funcionamiento del sistema.
El artículo 311 del Código Penal castiga la discriminación laboral grave. Un sesgo algorítmico que excluya sistemáticamente a mujeres, personas mayores o personas con discapacidad puede ser subsumido en este precepto cuando exista intencionalidad o al menos una desatención temeraria de los riesgos conocidos. La persona jurídica puede ser considerada responsable si el hecho se comete en su nombre o por su cuenta.
Además, la reforma de la Ley Orgánica 4/2023 amplió el catálogo de delitos que pueden imputarse a las empresas. Aunque el foco principal fue la protección de los derechos humanos y la diligencia debida, la interpretación integradora con las normas de IA apunta a que la discriminación automatizada es un riesgo penal emergente.
El artículo 31 bis del Código Penal prevé la exención de responsabilidad para las empresas que dispongan de modelos de organización y gestión eficaces. Sin embargo, un modelo que no contemple los riesgos derivados de la inteligencia artificial difícilmente podrá considerarse adecuado. La Fiscalía General del Estado ha insistido en que los programas de prevención no pueden ser un simple documento formal.
Para que un modelo de prevención penal sea eficaz frente a sesgos algorítmicos, debe incluir la evaluación periódica de los sistemas de contratación, la documentación de las decisiones de diseño y entrenamiento, y canales de denuncia que permitan detectar discriminaciones. La supervisión debe ser activa y no limitarse a comprobar que el algoritmo funciona técnicamente.
Las empresas que incorporan IA a sus procesos de contratación deben actuar en varios frentes. No hay una única medida que elimine por completo el riesgo, pero la combinación de gobernanza, supervisión humana y documentación reduce significativamente la probabilidad de sanciones y condenas.
La prevención eficaz empieza antes de la adquisición del sistema. Antes de contratar un proveedor, conviene comprobar qué datos se han utilizado para entrenar el modelo, cómo se gestionan los sesgos y si existe documentación técnica accesible. Un sistema opaco no debería superar una compra pública ni privada en el ámbito laboral.
Las auditorías algorítmicas deben formar parte del ciclo de vida de cualquier sistema de alto riesgo. Consisten en evaluar periódicamente si el algoritmo produce resultados desproporcionadamente desfavorables para colectivos protegidos. Para ello se utilizan métricas de equidad, como el impacto desproporcionado, la igualdad de oportunidades o la paridad demográfica.
La gobernanza de datos es el primer cimiento de la auditoría. Los datos de entrenamiento deben documentarse, incluyendo su origen, su calidad y los criterios de limpieza y anotación. Si no se puede explicar de dónde proceden los datos, difícilmente se podrá justificar por qué el algoritmo está sesgado. La trazabilidad es una obligación legal y una herramienta de defensa.
El Reglamento de IA exige que los sistemas de alto riesgo estén diseñados para que las personas puedan vigilarlos, entender sus salidas y corregirlas. En la contratación, esto significa que ningún algoritmo debería rechazar automáticamente a una persona candidata sin que una persona haya revisado previamente la decisión, al menos en los casos dudosos.
La supervisión humana debe ser real y estar documentada. No basta con que un responsable firme un documento. Debe contar con formación específica, acceso a la información del sistema y capacidad real de modificar la decisión. Los protocolos de intervención deben definir quién revisa, cuándo lo hace y cómo se deja constancia.
Las relaciones con proveedores de IA deben incluir cláusulas que obliguen a la transparencia, la colaboración en auditorías y la notificación inmediata de incidencias. También deben prever la asunción de responsabilidad cuando el sesgo tenga su origen en el diseño del modelo o en los datos de entrenamiento.
La gestión de proveedores no termina con la firma del contrato. Las empresas deben realizar un seguimiento continuo, actualizar las evaluaciones de riesgo y verificar que el proveedor cumple sus promesas. La contratación de un sistema de IA para selección de personal sin estas cautelas equivale a importar riesgos ajenos sin control interno.
La siguiente tabla sintetiza los principales riesgos jurídicos asociados a los sesgos algorítmicos en la contratación y las medidas concretas que permiten mitigarlos. No sustituye a un análisis individualizado, pero ofrece una panorámica útil para priorizar acciones.
Conviene actualizar esta tabla a medida que evolucione la normativa y la jurisprudencia. Las autoridades de control y los tribunales están desarrollando criterios cada vez más estrictos, por lo que las organizaciones deberían revisar sus mapas de riesgo al menos una vez al año.
| Riesgo | Consecuencia jurídica | Medida de mitigación |
|---|---|---|
| Discriminación indirecta en filtrado de currículos | Indemnización civil por daños y sanciones administrativas | Auditoría de equidad y control humano |
| Falta de documentación del entrenamiento | Presunción de incumplimiento y dificultad de defensa | Gobernanza de datos y registros técnicos |
| Ausencia de supervisión humana real | Responsabilidad penal corporativa por defecto de organización | Protocolos de intervención y formación |
| Uso de sistemas no evaluados como alto riesgo | Multas de hasta 35 millones de euros o 7% de la facturación | Evaluación de impacto algorítmico previa |
| Dependencia de proveedores opacos | Responsabilidad solidaria y pérdida de control | Cláusulas contractuales y auditorías a terceros |
Los sesgos algorítmicos en la contratación pueden parecer un problema técnico, pero en realidad son un problema legal y humano. Si una empresa utiliza un programa para elegir candidatos y ese programa excluye de forma desproporcionada a mujeres, personas mayores o personas con discapacidad, la empresa puede tener que pagar indemnizaciones, enfrentarse a multas importantes e incluso a un proceso penal.
La mejor protección no es confiar en que el algoritmo sea neutral, sino comprobarlo. Las empresas deben preguntar de dónde salen los datos, pedir que una persona revise las decisiones importantes y guardar toda la documentación. Actuar con transparencia y sentido común es la forma más eficaz de evitar problemas.
Desde una perspectiva técnico-jurídica, el reto consiste en traducir los requisitos normativos en controles verificables. La trazabilidad completa del ciclo de vida del modelo, la evaluación de métricas de equidad y la supervisión humana documentada no son solo buenas prácticas, sino elementos de prueba que permitirán acreditar la diligencia debida ante un tribunal o una autoridad de control.
Las organizaciones avanzadas deberían adoptar un enfoque de cumplimiento desde el diseño, integrando la explicabilidad, la detección de sesgos y la gestión de incidencias en la propia arquitectura del sistema. La convergencia entre el Reglamento de IA, la responsabilidad civil y el artículo 31 bis del Código Penal exige una reingeniería de los procesos de contratación y de los modelos preventivos. Solo las empresas que traten la equidad algorítmica como un requisito de producto y no como un mero trámite podrán sostener su defensa en la era automatizada.
Descubra cómo nuestra asesoría legal puede ayudarle a resolver sus desafíos legales con profesionalismo y confidencialidad.
