Dr. Roberto Betancourt A.
La inteligencia artificial (IA) amplía la capacidad humana, ayudando a identificar patrones en imágenes médicas, analizar grandes volúmenes de datos, programar, traducir y acelerar tareas intelectuales. Esa capacidad sostiene una tesis razonable: una sociedad que aprende a utilizar IA puede producir más conocimiento y extender competencias antes reservadas a especialistas. El desafío aparece cuando la eficiencia comienza a confundirse con autoridad.
La psicología de la interacción entre humanos y máquinas conoce este problema desde antes del auge de la IA generativa. Se denomina «sesgo de automatización» y consiste en la tendencia a confiar excesivamente en estos resultados, incluso ante información que puede parecer contradictoria. Por tanto, surge una paradoja: cuanto más útil parece una herramienta, mayor puede ser nuestra disposición a aceptar también sus errores.
Un experimento publicado en Radiology en 2023 y conducido por Thomas Dratsch y colaboradores pidió a 27 radiólogos evaluar 50 mamografías asistidos por un supuesto sistema de IA. Cuando la recomendación era correcta, los participantes acertaban alrededor de ocho de cada diez casos; pero, cuando la sugerencia era deliberadamente equivocada, las respuestas correctas cayeron a 19,8 % entre los menos experimentados, 24,8 % entre quienes poseían experiencia intermedia y 45,5 % entre los especialistas de mayor experiencia. Incluso el conocimiento experto resultó vulnerable ante una máquina presentada como competente.
Así, el valor surge cuando la máquina complementa el juicio humano, mientras que el riesgo aumenta cuando lo sustituye de manera acrítica.
La competencia decisiva de esta época consiste en aprender a dudar con método, verificar una fuente, reconstruir un cálculo, identificar supuestos y distinguir la «evidencia de apariencia» en las fuentes generativas de IA. Hinton, el premio Nobel que ha alertado sobre el desarrollo intrínseco de la IA, ha insistido en la necesidad de actuar con cautela, algo que también cobra sentido frente a riesgos cotidianos.
La clave está en la cooperación vigilante, aspirando a máquinas cada vez más capaces y, simultáneamente, a ciudadanos competentes para examinarlas. Una tecnología madura requiere usuarios mejor formados, instituciones responsables y mecanismos de verificación.
Progreso y prudencia pueden avanzar juntos.
La precaución científica se aleja de de tener miedo al futuro, sino mostrar respeto por las consecuencias. Una sociedad verdaderamente tecnológica será aquella que sepa aprovechar la inteligencia de sus máquinas y fortalecer el juicio de sus ciudadanos.
* El autor es Presidente del Observatorio Nacional de Ciencia, Tecnología e Innovación
@betancourt_phd Fuente: https://ultimasnoticias.com.ve/opinion/pensar-a-pesar-del-algoritmo/