Imagínate que la inteligencia artificial se volviera tan poderosa que ya no pudiéramos controlarla. Esa es justo la pesadilla que Mike Winer y su equipo de investigadores buscan evitar, trabajando en lo que describen como una especie de salvaguarda matemática: un conjunto de reglas o fórmulas diseñadas para garantizar que los sistemas de IA sigan respondiendo a los humanos, sin importar qué tan avanzados se vuelvan.
El proyecto surge de una preocupación que cada vez gana más terreno entre quienes estudian el desarrollo de la inteligencia artificial: la posibilidad de que estos sistemas crezcan en capacidad de forma tan acelerada que se escapen del control de sus propios creadores. No se trata de ciencia ficción lejana, sino de un riesgo que algunos expertos consideran cada vez más cercano conforme la tecnología avanza a pasos agigantados.
Lo que hace especialmente urgente este trabajo, según cuentan quienes están detrás de él, es la sensación de que el tiempo se les está acabando. Mientras las empresas tecnológicas compiten por lanzar modelos de IA cada vez más sofisticados, Winer y sus colegas corren en paralelo para encontrar una especie de “freno de emergencia” matemático antes de que sea demasiado tarde.
Si te interesa conocer a fondo cómo es este esfuerzo por domesticar matemáticamente a la inteligencia artificial, te invitamos a leer la nota original completa.
Fuente: Looking for the Formula to Stop an Apocalypse (rss.nytimes.com).
Imagen: Internet Archive Book Images.
