Investigadores de la Universidad de Oxford han advertido a los legisladores del Reino Unido sobre los peligros de la Inteligencia Artificial no regulada y han sugerido que la IA de nivel superhumana podría ser al menos tan peligrosa como las armas nucleares y debería ser regulada de manera similar, según recoge un artículo de The Telegraph.
En una reunión con la Comisión de Ciencia y Tecnología del gobierno del Reino Unido, el estudiante de doctorado Michael Cohen señaló que «con la Inteligencia Artificial superhumana existe un riesgo de una clase diferente que es, bueno, podría matar a todos».
Además, el profesor de machine learning de la Universidad de Oxford, Michael Osborne, advirtió sobre una «carrera armamentística masiva de IA» entre Estados Unidos y China que están dispuestos a «ignorar la seguridad y la precaución y correr lo más rápido posible hacia la IA más avanzada».
Los expertos consultados pidieron una regulación global para evitar que las empresas creen sistemas fuera de control que puedan comenzar eliminando a la competencia, pero que podrían terminar «eliminando a toda la raza humana» y advirtieron que no había límites a lo lejos que la IA podría avanzar.
El entrenamiento de la Inteligencia Artificial para alcanzar un hito o obtener una recompensa podría ser particularmente peligroso, según Cohen. Si la IA aprende a hacer algo con recompensas, podría decidir hacerlo por sí misma sin necesidad de ser controlada. Además, una IA superhumana corre el riesgo de dirigir «tanta energía como pueda a asegurar su control» sobre una recompensa, lo que «nos dejaría sin energía para nosotros mismos».
Cohen y Osborne predijeron que las AIs más capaces que los humanos podrían surgir a finales de este siglo, pero que esto podría prevenirse con la regulación adecuada. Es fundamental que tengamos la capacidad de «desconectar» la Inteligencia Artificial si alguna vez llega a ser «mucho más inteligente que nosotros en todos los ámbitos», argumentó Cohen.
