¿Cómo decide la Inteligencia Artificial?
Escribe Lic. Marcela Blaufuks
Cada día, antes que haya tomado una sola decisión consciente, ya fue decidido qué noticias veré, qué ruta tomaré, qué publicidad recibiré, qué crédito puedo obtener, qué contenido aparecerá primero en mi pantalla. La inteligencia artificial no sólo responde preguntas o automatiza tareas. Organiza mi mundo: clasifica, prioriza, recomienda, habilita, excluye. ¿Quién decide cuando una máquina decide por mí?
Voy a tomar para el análisis un camino complejo, sensible.
El filósofo francés Grégoire Chamayou planteó esta cuestión en un ámbito extremo: la guerra remota. En Teoría del dron, analiza cómo los vehículos no tripulados transformaron la relación entre técnica, poder y decisión humana. Un dron puede ejecutar una acción, incluso una acción letal, pero detrás de su operación hay protocolos, listas, umbrales, datos y parámetros establecidos previamente. La máquina actúa; alguien, en algún momento, definió las condiciones de esa actuación.
Chamayou habla de una “decisión sobre la decisión”: la elección de si vamos a delegar en sistemas automatizados y, sobre todo, de qué parámetros de programación regirán su funcionamiento. Es una idea decisiva para pensar la inteligencia artificial más allá de los drones. Porque cuando una decisión se convierte en un algoritmo, la responsabilidad humana: se desplaza. Se vuelve menos visible, más técnica y, con frecuencia, más difícil de cuestionar.
Lo pienso también desde mi propia experiencia. Cada vez que acepto una recomendación, una ruta sugerida o un contenido que una plataforma me ofrece, estoy participando —aunque no siempre lo sepa— en un circuito de decisiones automatizadas. No elijo sólo lo que veo: también soy visto, medido y clasificado por sistemas que deciden qué mostrarme.
Imaginemos un sistema que evalúa solicitudes de becas, créditos, empleos o admisiones escolares. Puede parecer neutral: procesa datos, aplica criterios, produce resultados. Pero esos criterios no caen del cielo. Alguien eligió qué variables importan, qué datos son válidos, qué umbrales separan al aprobado del rechazado, qué historias quedan fuera del cálculo. Si el sistema discrimina, si reproduce desigualdades o si comete errores. ¿Quién diseñó esas reglas, con qué intereses y bajo qué controles?
Esta personalización no se apoya sólo en lo que declaro o busco. Los sistemas combinan mi geolocalización, el dispositivo desde el que me conecto y mi conducta digital —los sitios que visito, los videos que miro, el tiempo que permanezco en una pantalla, las interacciones que repito— para construir perfiles cada vez más ajustados. Así, dos personas que realizan la misma búsqueda pueden recibir resultados distintos según el lugar desde el cual consultan; la ubicación puede modificar de manera significativa lo que un buscador muestra. Mi teléfono, con sus sensores, aplicaciones y registros de movimiento, se convierte en una fuente permanente de datos contextuales y conductuales. No vivimos, entonces, frente a un mismo algoritmo: cada uno de nosotros recibe una versión particular del mundo, calculada a partir de su posición, su equipo y sus huellas digitales. La diversidad algorítmica puede ser útil —puede acercarme información pertinente— pero también fragmenta la experiencia común y vuelve más difícil saber qué estoy dejando de ver.
Aquí aparece el riesgo democrático. Las decisiones políticas siempre fueron disputadas: se discuten en familias, aulas, medios, parlamentos y calles. Pero cuando una decisión relevante se presenta como resultado técnico —“lo determinó el sistema”, “así lo arrojó el algoritmo”— tiende a volverse opaca y difícil de impugnar. La automatización puede ahorrar tiempo, pero también puede ahorrar debate. Y una democracia que deja de discutir cómo se distribuyen oportunidades, castigos y reconocimientos pierde lo esencial.
No se trata de demonizar la inteligencia artificial. Estas tecnologías pueden colaborar en diagnósticos, investigaciones, accesibilidad, gestión pública y aprendizaje. El problema no es la herramienta, sino la delegación acrítica de autoridad. Que un sistema recomiende no significa que deba decidir sin supervisión. Que procese datos no significa que sus conclusiones sean justas. Que funcione con rapidez no significa que sus efectos sean neutros.
Por eso la Educación se vuelve un terreno central. No alcanza con enseñar a usar aplicaciones ni con formar usuarios hábiles de plataformas. Necesitamos desarrollar capacidades que permitan habitar la era algorítmica con juicio crítico: comprender que todo sistema tiene un diseño; preguntar de dónde vienen los datos; reconocer sesgos; distinguir entre automatizar una tarea y delegar una responsabilidad; exigir transparencia, explicaciones y vías de reclamo.
Esa alfabetización no es sólo tecnológica. Es política y ética. Formar para la democracia hoy implica enseñar a preguntar quién tiene poder sobre los sistemas que nos clasifican, quién responde por sus errores y cómo pueden las comunidades intervenir en su diseño. También implica recuperar algo que ningún modelo puede reemplazar: la capacidad de deliberar con otros, de dudar, de discrepar, de imaginar alternativas y de asumir responsabilidad por las consecuencias de nuestras decisiones.
Hay, además, una dimensión colectiva de esta discusión: la soberanía tecnológica. No se trata de pretender que cada país produzca por sí solo todas las tecnologías que utiliza, sino de no delegar sin control aquellas decisiones que tienen injerencia directa del Estado y afectan derechos fundamentales. La educación, la salud y la seguridad son áreas sensibles: en ellas, un sistema de inteligencia artificial puede ordenar trayectorias escolares, priorizar diagnósticos o asignar riesgos y recursos. La Recomendación de la UNESCO sobre la ética de la inteligencia artificial insiste en que estos sistemas deben respetar los derechos humanos, la dignidad, la transparencia y la supervisión humana, y que debe ser posible atribuir responsabilidad ética y jurídica a personas o entidades concretas. Para América Latina, el desafío es aún mayor: la dependencia de infraestructuras, datos y capacidades técnicas ubicadas fuera del territorio puede debilitar la soberanía digital y convertir a nuestros Estados en simples usuarios de decisiones tomadas en otros centros de poder. Desarrollar capacidades propias —técnicas, regulatorias, institucionales y educativas— no significa cerrarse al mundo, sino recuperar la posibilidad de decidir.
Chamayou escribió sobre drones, pero su advertencia alcanza a las aulas, los hospitales, las oficinas públicas y mis pantallas cotidianas. Quizá el primer paso sea pensar la inteligencia artificial sin mirarla con desconfianza o fascinación. Quizá sea aprender a verla: ver los datos que la alimentan, los intereses que organiza, los criterios que aplica y los poderes que concentra. Ver no es lo mismo que mirar. Mirar puede ser un gesto pasivo; ver implica reconocer, interrogar y situarse. Sólo después de aprender a ver podremos decidir cómo usar estas tecnologías sin entregarles aquello que define nuestra Libertad: la capacidad de elegir, deliberar y construir, juntos, el tipo de sociedad que queremos Ser.
