– Jacob Coxon renunció para denunciar la carrera irresponsable hacia una tecnología sin control.
José Gallardo / Información Internacional
Jacob Coxon, un investigador que formó parte de Anthropic y OpenAI, abandonó su cargo para lanzar una advertencia pública: el avance actual de la inteligencia artificial representa un riesgo extremo que, bajo sus proyecciones, podría terminar con la población humana antes del año 2030.
De acuerdo con el especialista, las empresas del sector tecnológico compiten por crear una superinteligencia capaz de mejorarse a sí misma, dejando de lado la responsabilidad ética. Coxon explicó que dentro de OpenAI los equipos no dimensionan el nivel de riesgo de su trabajo. Por otro lado, afirmó que en Anthropic sí existe conciencia sobre esta amenaza, pero justifican su prisa bajo la creencia de que deben ganar la competencia para evitar que otros actores menos responsables tomen el liderazgo.
Para el investigador, intentar desarrollar esta tecnología a la máxima velocidad es una apuesta sumamente peligrosa. Advirtió que, en poco tiempo, el mundo podría lidiar con sistemas superiores a la mente humana, los cuales tendrían la capacidad de vulnerar plataformas informáticas, modificar industrias enteras y acumular recursos propios. Los recientes ataques cibernéticos a plataformas de código abierto son, según su visión, solo una primera muestra de lo que ocurre al operar en un entorno sin regulación.
Frente a este escenario, Coxon propone que las empresas implementen pausas temporales en el desarrollo de modelos avanzados para lograr acuerdos de seguridad a nivel global. Asimismo, invitó a los ingenieros del sector a reflexionar sobre si vale la pena construir herramientas que la propia industria aún no comprende en su totalidad.
Sus declaraciones encontraron respaldo desde el interior de su antigua empresa. Evan Hubinger, directivo científico de Anthropic, reconoció la validez de estas preocupaciones y admitió que el fin de los humanos por causa de la IA es un escenario que evalúan con sinceridad. Hubinger confesó además que su equipo no tiene un plan definitivo para garantizar la seguridad frente a una superinteligencia, un avance tecnológico que está ocurriendo mucho más rápido de lo esperado.
