Dicha frontera tiene que ver con resolver problemas matemáticos que desconciertan a especialistas. Pero hay una paradoja fascinante: cuanto más sorprendente se vuelve, más importante resulta comprobar que realmente tiene razón.
En los últimos meses, sistemas de IA han logrado avances espectaculares en matemáticas. Algunos han encontrado soluciones o contraejemplos para problemas abiertos y otros han convertido demostraciones complejas en pruebas verificables por computadora. El debate ya no es solamente si una máquina puede resolver un problema, sino si los seres humanos podremos entender y revisar lo que produjo.
La preocupación es especialmente fuerte cuando aparecen soluciones publicadas por personas sin formación especializada que parecen proceder de herramientas de IA. La comunidad matemática teme que una avalancha de resultados difíciles de verificar termine contaminando la investigación con argumentos plausibles, pero incorrectos.
Y aquí aparece el otro lado de la historia: las famosas “alucinaciones”. El investigador jurídico Damien Charlotin mantiene una base de datos que ya reúne 1,174 decisiones judiciales relacionadas con contenido jurídico inventado por sistemas de IA. En Sudáfrica, el borrador de una política nacional sobre inteligencia artificial tuvo que ser retirado después de detectarse referencias académicas inexistentes.
El contraste es revelador. Una IA puede producir una demostración matemática extraordinariamente sofisticada y, al mismo tiempo, inventar una fuente que nunca existió. Puede sorprendernos con una idea brillante y equivocarse en un dato básico.
Por eso, quizá la verdadera frontera no sea la llamada singularidad, sino nuestra capacidad para distinguir entre una respuesta impresionante y una respuesta verdadera. El desafío no consiste únicamente en hacer máquinas más inteligentes, sino en construir métodos capaces de comprobarlas. Mientras esa verificación siga dependiendo de seres humanos, la inteligencia artificial seguirá siendo poderosa, pero no infalible. Y eso importa hoy mismo.
