El testigo experto en el juicio de OpenAI advierte sobre los riesgos de la carrera armamentista de la AGI

En la batalla legal en Estados Unidos entre Elon Musk y OpenAI, el equipo legal del demandante se centra en el propósito fundamental de la organización de inteligencia artificial. Los abogados de Musk argumentan que la organización se creó como una entidad benéfica centrada en la seguridad de la IA y que perdió el rumbo en busca de lucro. Hoy, el demandante llamó a Stuart Russell, profesor de ciencias de la computación en la Universidad de California, Berkeley, para testificar como testigo experto. El papel de Russell fue establecer que esta tecnología es lo suficientemente peligrosa como para preocuparse. Testificó que existen riesgos asociados con el desarrollo de la IA, que van desde amenazas de ciberseguridad hasta problemas de desalineación y la naturaleza de “el ganador se lo lleva todo” del desarrollo de la inteligencia artificial general (AGI). Esta tensión es fundamental para el juicio, ya que prácticamente todos los fundadores de OpenAI han advertido sobre los riesgos de la IA mientras intentan, simultáneamente, construir IA lo más rápido posible.

Russell ha sido durante mucho tiempo un crítico de la dinámica global de carrera armamentista entre los laboratorios de inteligencia artificial. En marzo de 2023, Russell firmó una carta abierta pidiendo una pausa de seis meses en la investigación de IA, un documento que Musk también firmó. Aunque las preocupaciones más amplias de Russell sobre las amenazas existenciales de una IA sin restricciones fueron limitadas en audiencia pública por la jueza Yvonne Gonzalez Rogers tras las objeciones de los abogados de OpenAI, su testimonio destacó la fricción entre el desarrollo rápido y la seguridad.

El debate sobre estas advertencias se extiende más allá de la sala del tribunal hacia la política de Estados Unidos. Por ejemplo, el senador estadounidense Bernie Sanders ha presionado por una ley que imponga una moratoria a la construcción de centros de datos, basándose en preocupaciones similares sobre la seguridad de la IA. Sin embargo, estas advertencias de figuras de la industria se han encontrado con escepticismo. Hodan Omaar, quien trabaja en la organización comercial Center for Data Innovation, cuestionó el uso selectivo de estas advertencias. Omaar señaló que “no está claro por qué el público debería descartar todo lo que dicen los multimillonarios tecnológicos, excepto cuando sus palabras pueden ser reclutadas para llenar vacíos en un argumento precario”.

Por qué importa

El juicio expone el conflicto fundamental entre la misión original centrada en la seguridad de los laboratorios de IA y el gasto masivo en cómputo —el gasto en recursos informáticos necesarios para el entrenamiento de IA— requerido para construir inteligencia artificial general (AGI). Este requisito de capital obliga a un giro hacia modelos con fines de lucro para asegurar la inversión.