La inteligencia artificial desafía a la universidad: ética y cooperación en debate

• La inteligencia artificial está modificando la investigación y la docencia. Modelos capaces de generar texto, resolver problemas y proponer experimentos se han instalado en cursos, laboratorios y oficinas. Este cambio plantea preguntas sobre principios éticos, responsabilidades institucionales y cooperación internacional.

Explosivo, exponencial, aritmético son sólo algunos de los adjetivos que se han usado para describir el crecimiento y desarrollo de la inteligencia artificial (IA). Los datos lo confirman, dice el vicerrector de Tecnologías de la Información de la Universidad de Chile, José Correa. Hace diez años la conferencia NeurIPS (Neural Information Processing Systems) recibía cerca de 1.000 trabajos académicos, pero hoy supera los 25.000: un aumento del 35% anual.

Esos antecedentes fueron parte del seminario “Desafíos a la libertad, ética e integridad en investigación frente a los nuevos desarrollos tecnológicos”, en el que además participaron Paula Aguirre vicerrectora de IA en la Pontificia Universidad Católica de Chile y Guillermo Durán, decano de la Facultad de Ciencias Exactas y Naturales de la Universidad de Buenos Aires. La conversación giró en torno al crecimiento acelerado del área, el rol de las universidades y la necesidad de reglas claras.

En cifras el cambio es evidente, el incremento en la investigación científica tiene una correlación con el incremento en la inversión en centros de datos, en matrícula de doctorado y en publicaciones con IA. Pero ¿Cómo deben reaccionar las universidades?, preguntó Correa.

Existen varias visiones sobre la llegada de una inteligencia artificial general (AGI). Algunos especialistas estiman plazos de cinco a diez años, pero otros sostienen que la meta es más lejana. “Los modelos actuales ya han consumido la mayor parte del conocimiento digital disponible, que requieren mucho más entrenamiento que un cerebro humano y aún tienen dificultades para generar conocimiento nuevo”, destacó el vicerrector de TI de la UCHile.

La función de la universidad

Para la Ingeniera civil mecánica, Doctora en astrofísica y vicerrectora de Inteligencia Digital de la Pontificia Universidad Católica de Chile, Paula Aguirre, la misión universitaria no cambia con la IA: formar personas y producir conocimiento. La IA es un medio para cumplir esa función, no un fin en sí mismo.

Planteó que los planes institucionales deben mantener ese objetivo y no reducirse a la cantidad de publicaciones. También propuso crear órganos de gobernanza con presencia de distintas disciplinas y garantizar acceso equitativo a las herramientas. Para Aguirre, la responsabilidad humana es irrenunciable: no se puede atribuir a la IA el origen de problemas previos, como la presión por publicar.

El decano Guillermo Durán subrayó que el impacto de la IA requiere todas las disciplinas. La investigación en salud, medio ambiente o derecho necesita de especialistas en computación, pero también de sociólogos, abogados y humanistas. “En esto necesitamos a todos”, afirmó. La Universidad, dijo el matemático argentino, debe formar profesionales “capaces de pensar”, no solo de usar herramientas automáticas. También defendió la cooperación internacional y la autonomía universitaria como condiciones para sostener proyectos de investigación a largo plazo

Los expositores coincidieron en que la IA ya se usa en búsqueda de literatura, diseño de experimentos, cálculo y análisis, pero reconocieron “riesgos” en la uniformidad de enfoques, en la dependencia de plataformas globales y en la exposición de datos sensibles.

Tres principios

José Correa, quien también es ingeniero, también cuestionó desde el placer de la investigación. “¿Es posible que dentro de algunos años la inteligencia artificial pueda reemplazar a la actividad científica? No lo sabemos. Pero ya se han dado pasos: algunos Premios Nobel recientes en química han utilizado herramientas de IA en sus descubrimientos. Esto plantea una doble pregunta: ¿qué ocurriría si la ciencia, como actividad humana, comienza a ser realizada en gran medida por máquinas? Y si eso ocurre, ¿es algo bueno o malo?”

Siempre desde la discusión filosófica, el vicerrector de la Universidad de Chile dijo que quizás la “IA logre curar el cáncer mucho antes que los humanos. Pero, en ese escenario, ¿Qué perderíamos? ¿Qué valor tiene el gozo del descubrimiento, el proceso humano de crear conocimiento, frente al resultado mismo? ¿Es más importante el proceso de llegar a la cura del cáncer o la cura en sí?”

“En el fondo —dijo— la gran pregunta es si estamos viviendo en una de las últimas generaciones de científicos tal como los conocemos. Tal vez los científicos del futuro sean distintos, o quizá la ciencia en sí cambie por completo en las próximas décadas o siglos”.

El vicerrector y académico Correa propuso tres principios para guiar el uso de IA en universidades: pensamiento crítico para evaluar los resultados de los modelos, identificar errores y sesgos, y evitar dependencia; transparencia, es decir, declarar de qué manera se utilizó la IA, sea para redactar, traducir o estructurar ideas y ; privacidad: resguardar datos sensibles y definir dónde se almacenan y procesan. Estos principios, señaló, son válidos en todos los escenarios y no dependen de la velocidad del desarrollo tecnológico.

Por Rodrigo Mundaca – VTI