Una brújula ética para la IA
La inteligencia artificial es cada vez más capaz, pero ¿quién decide los límites de lo que puede o debe hacer? En este episodio de CIENxCIEN hablamos de ética e IA: de sesgos y discriminación, transparencia, privacidad, supervisión humana y responsabilidad. Porque detrás de una inteligencia artificial siempre hay decisiones humanas y, si queremos dirigir bien su rumbo, necesitamos algo más que tecnología: necesitamos una brújula.
28/10/2026
Inteligencia artificial y Big data
- Transformación digital
- Banco de España
- Cooperación internacional
"La cuestión no es simplemente crear una tecnología que sea capaz de hacer aquello que queremos y cada vez más potente, sino de dirigir su rumbo. La ética es la brújula que orienta esas decisiones que deben estar detrás de la inteligencia artificial.”
Puedes escuchar este episodio doblado a otros idiomas de forma automática (sin intervención ni revisión alguna por parte del Banco de España) seleccionando la pista de audio deseada en el icono de configuración de la pantalla de YouTube.
Inteligencia artificial ética: la responsabilidad humana como brújula para dirigir su rumbo
La inteligencia artificial lleva décadas entre nosotros, pero su presencia en nuestra vida cotidiana se ha multiplicado. La utilizamos para redactar documentos, resumir reuniones, hacer una gestión o encontrar una respuesta. Y según aumenta su capacidad, también aumentan las preguntas: ¿quién responde cuando una IA se equivoca? ¿Cómo podemos evitar que reproduzca sesgos? ¿Quién decide qué límites debe tener?
Grabado en el Día Mundial de la ética, Ana Comellas conversa en este episodio con María Sebastián, responsable de la división de Cumplimiento del Banco de España, sobre uno de los grandes retos que plantea esta tecnología: cómo desarrollar y utilizar una inteligencia artificial ética y responsable.
La primera idea es sencilla, pero tiene importantes consecuencias: la tecnología no tiene valores propios. Son las personas quienes seleccionan los datos, definen los objetivos, desarrollan las herramientas y deciden cómo utilizarlas. Por eso, cuanto más sofisticado sea un sistema, más importante resulta preguntarnos no solo qué puede hacer, sino qué queremos que haga, de qué manera y bajo qué condiciones.
Los principios éticos deben estar presentes desde el diseño de la propia solución y en este episodio aterrizamos estos principios en situaciones concretas, desde una herramienta utilizada en un proceso de selección que puede acabar descartando perfiles perfectamente válidos hasta un sistema empleado para conceder préstamos que puede plantear problemas de discriminación.
Todo desemboca en una cuestión fundamental: la responsabilidad sigue siendo humana. La inteligencia artificial puede analizar información, automatizar procesos o formular recomendaciones, pero utilizarla no significa renunciar al criterio profesional. Para que la supervisión sea real, las personas responsables necesitan poder cuestionar el resultado de la máquina, comprobarlo y, cuando sea necesario, corregirlo o detener el proceso.
Por eso, ética e innovación no tienen por qué caminar en direcciones contrarias. La cuestión no consiste únicamente en hacer una inteligencia artificial más potente, sino en decidir hacia dónde queremos dirigir esa potencia. Y ahí la ética funciona como una brújula: nos ayuda a desarrollar y utilizar la IA de manera responsable, manteniendo el foco en las personas, sus derechos y los valores que queremos proteger como sociedad.
