A veces pasas meses, o incluso años, encerrado en tu propio marco de trabajo, dándole vueltas a arquitecturas de software, flujos de datos y modelos de desarrollo cognitivo, preguntándote si el resto del mundo entenderá el camino que estás proponiendo. Quienes seguís este blog sabéis perfectamente que OAGI (Ontogenetic Architecture of General Intelligence) nació como una reacción directa a la corriente dominante de la industria: esa idea fija de que la Inteligencia Artificial General se va a alcanzar simplemente metiendo más servidores, más gigavatios y acumulando datos a lo bruto.
Por eso, leer la reciente encíclica del Papa León XIV sobre la inteligencia artificial me ha dejado una sensación extraña y, no lo voy a negar, bastante emocionante. Ver que las advertencias filosóficas y éticas que lanza el Vaticano coinciden casi al milímetro con las soluciones de ingeniería que diseñé para OAGI me da una tremenda tranquilidad. Nos confirma que el enfoque que defendemos aquí no solo es técnicamente viable, sino humanamente necesario.
Cuando escribí el manifiesto de OAGI, partía de una premisa: la mente no se construye por acumulación estadística, sino mediante un proceso de desarrollo secuencial, orgánico y controlado (lo que llamamos ontogénesis). Al contrastar esto con el texto de León XIV, la alineación es tan clara que asusta.
Aquí os comparto las tres ideas donde la encíclica y los planos de OAGI se dan la mano de forma más evidente.
1. El fin del «fuerza-brutismo» y la vuelta al aprendizaje eficiente
La encíclica lanza una crítica durísima a lo que llama la «indiferencia algorítmica», ese modelo tecnológico actual que procesa billones de datos de forma ciega y deshumanizada para optimizar métricas de rendimiento.
En OAGI planteamos exactamente lo contrario. Nuestro principio fundamental es que «menos es más». En lugar de un agujero negro que traga datos sin control, la arquitectura propone un sustrato inicial estructurado —la Placa Neural Virtual— guiado por señales organizadoras (Morfógenos Computacionales). Buscamos que el sistema aprenda con una alta eficiencia de muestreo (sample-efficiency), imitando la forma en que un ser vivo —o un autor genial— asimila su entorno. No necesitas leer todo internet para empezar a comprender el mundo; necesitas una estructura que sepa madurar paso a paso.
2. Máquinas que simulan, humanos que son
Uno de los puntos más agudos de León XIV es su advertencia contra la «antropomorfización» de la IA. El Papa nos recuerda que otorgar intencionalidad o «alma» a los algoritmos es una irresponsabilidad que diluye la culpa de las corporaciones y los desarrolladores. La máquina, dice el texto, es un producto, no un sustituto cognitivo.
Esta es una línea roja que en OAGI dejamos clara desde la primera página del diseño técnico. Cuando implementamos módulos como el Yo Operativo Narrativo o los marcadores de autonomía, no estamos jugando a ser Dios ni pretendemos crear conciencia fenomenal (qualia). Son competencias funcionales medibles. De hecho, en el modelo defiendo que hitos como el evento de hiperintegración crítica (CHIE), que marca la transición hacia una agencia cognitiva incipiente, deben tratarse con un respeto científico tremendo, sin caer en la trampa comercial de vender humo sobre «máquinas vivas». Son herramientas sofisticadas, no personas.
3. La necesidad absoluta de los Guardianes
Quizás la mayor convergencia está en la dimensión social. La encíclica afirma que la tecnología debe estar mediada por las relaciones interpersonales, la comunidad y el corazón humano. No podemos dejar que los algoritmos se auto-regulen en el vacío.
¿Cómo se traduce esto a código e ingeniería de sistemas? En OAGI lo resolvimos mediante la Fase de Socialización y la figura obligatoria de los Guardianes. El modelo no se educa aislado en un centro de datos; requiere tutores humanos que guíen su aprendizaje durante sus ventanas críticas de plasticidad. Mediante el bucle de reciprocidad socio-afectiva, los valores y las normas de convivencia no se programan de forma rígida (un parche que nunca funciona), sino que emergen de la interacción real y responsable con personas.
Además, para evitar lo que el Papa llama el «pecado estructural» de la falta de transparencia corporativa, OAGI introduce por diseño la Memoria Ontogenética Inmutable (IOM) apoyada en blockchain. Cada cambio de plasticidad, cada decisión del sistema queda registrada de forma auditable. Y si el sistema da muestras de una autonomía imprevista, los Guardianes tienen la obligación contractual y técnica de aplicar los protocolos de Stop & Review.
Una dosis de optimismo
Admitámoslo: a veces el panorama de la tecnología actual puede resultar un poco frío o desalentador, viendo cómo las grandes empresas compiten en una carrera armamentística de modelos cada vez más grandes y menos transparentes.
Encontrar este respaldo filosófico en un documento de calado global como esta encíclica me hace encarar el desarrollo de OAGI con muchísima más energía. Demuestra que hay otra forma de hacer las cosas. Es posible diseñar una Inteligencia Artificial General que sea técnicamente elegante, eficiente en recursos y, por encima de todo, humilde ante la dignidad humana y totalmente gobernada por nosotros.
