Fujitsu ha anunciado que ha iniciado un proyecto para desarrollar una plataforma de contramedidas contra la desinformación junto con un consorcio de destacadas organizaciones académicas y del sector privado.
La multinacional japonesa fue seleccionada como operador principal para esta iniciativa en julio de 2024 a través de una convocatoria pública de propuestas de la Organización para el Desarrollo de Nuevas Energías y Tecnologías Industriales de Japón («NEDO»).
El esfuerzo forma parte del Programa de I+D de Tecnología Clave y Avanzada a través de la Colaboración Intercomunitaria («K Programa»), que se estableció con la colaboración de la Oficina del Gabinete de Japón, el Ministerio japonés de Economía, Comercio e Industria (METI) y otros ministerios japoneses relacionados, para reforzar e impulsar la seguridad económica de Japón.
El consorcio, reunido por Fujitsu, incluye al Instituto Nacional de Informática (NII), NEC Corporation, el Instituto de Investigación Keio del SFC, el Instituto de Ciencias de Tokio (antes Tokyo Tech), la Universidad de Tokio, la Universidad de Aizu, el Instituto Tecnológico de Nagoya y la Universidad de Osaka.
El objetivo del proyecto es desarrollar la primera plataforma integral de contramedidas contra la desinformación del mundo, capaz de procesar información falsa desde la detección inicial hasta la recopilación de pruebas, el análisis y la evaluación, y cuya finalización está prevista para finales del año fiscal 2025.
Vivek Mahajan, Vicepresidente Corporativo, CTO, CPO, Fujitsu Limited, comenta: «Estamos encantados de trabajar en esta iniciativa con un consorcio de primer nivel de organizaciones japonesas académicas y del sector privado que tienen un historial probado en la lucha contra la desinformación. Además de nuestros socios del consorcio, Fujitsu colaborará con las agencias gubernamentales pertinentes y otras organizaciones para desarrollar una solución de contramedidas robusta y contribuir a resolver este grave desafío social».
Como operador principal de este proyecto, Fujitsu dirigirá los esfuerzos de I+D, la integración tecnológica y la construcción de la plataforma global. Aprovechando las últimas tendencias en tácticas y tecnologías de desinformación, Fujitsu también creará casos de uso para organizaciones de los sectores público y privado, facilitando la aplicación práctica de los resultados de la investigación.
Tecnología para desarrollar y funciones del consorcio
1. Análisis de información por tipo de medio y detección de desinformación (Responsables: NII, NEC)
NII: Aprovechando su trayectoria en el campo de la detección de medios falsos, el NII desarrollará una tecnología para detectar deepfakes de imágenes, vídeo y audio a partir de publicaciones en redes sociales y otros contenidos. La tecnología identificará cómo se ha creado el contenido multimedia y las áreas que han sido manipuladas y asignará una puntuación de confianza que se proporcionará como prueba de apoyo.
NEC: NEC desarrollará una tecnología de comprensión de los medios de comunicación que extraiga el contenido incluyendo imágenes, vídeo y audio como texto y lo utilice para analizar las coincidencias con los posts de los medios sociales y para recopilar información de apoyo.
2. Gestión de pruebas/apoyos (Responsables: Instituto de Investigación Keio en SFC, Fujitsu, Universidad de Osaka)
Instituto de Investigación Keio del SFC y Fujitsu: El Instituto de Investigación Keio del SFC, que cuenta con una larga trayectoria en el campo de la arquitectura de confianza en Internet, y Fujitsu desarrollarán una tecnología para integrar las pruebas recogidas en Internet, incluidos los resultados de los análisis de la tecnología 1 anterior. Estas pruebas se estructurarán y almacenarán como un gráfico de pruebas/apoyos (3) para verificar la autenticidad y evaluar el impacto.
Universidad de Osaka: La Universidad de Osaka aprovechará su experiencia en el análisis de datos IoT para desarrollar una tecnología que permita recopilar datos de sensores como fuente de pruebas. En los casos en los que la información de la zona objetivo sea incompleta, el sistema deducirá las pruebas basándose en los datos disponibles de las zonas vecinas.
Esta recopilación de pruebas proactiva e impulsada por IA, que imita la recopilación e inferencia de información humana, es una iniciativa muy avanzada.
3. Determinación exhaustiva de la autenticidad (Responsables: Fujitsu, Instituto Tecnológico de Nagoya).
Fujitsu: Fujitsu desarrollará una tecnología para analizar la coherencia de las pruebas vinculadas a la información objetivo utilizando los gráficos de pruebas/apoyos de la tecnología. Esta tecnología permite realizar un análisis exhaustivo de la autenticidad de la información, presentando los resultados y las pruebas de apoyo de forma sencilla para el usuario.
Además, también desarrollará un LLM japonés especializado en contramedidas contra la desinformación, utilizando su superordenador (Fugaku) y su experiencia en LLM (Takane). Este LLM especializado mejorará la comprensión de noticias y datos de redes sociales, mejorará las capacidades de razonamiento lógico y permitirá realizar inferencias de alta velocidad y precisión para verificar la autenticidad, mitigando al mismo tiempo las alucinaciones.
Instituto Tecnológico de Nagoya: Fujitsu colaborará con el Instituto Tecnológico de Nagoya para desarrollar una interfaz de usuario y una tecnología de suministro de información basadas en la ciencia cognitiva, teniendo en cuenta factores relacionados con la psicología humana (por ejemplo, el efecto de influencia continua). Esto ayudará a los usuarios a juzgar con precisión la veracidad de la información y fomentará las acciones apropiadas, incluyendo la realización de esfuerzos para evitar la difusión involuntaria de información falsa.
4. Evaluación del impacto de la desinformación (Responsables: Instituto de Ciencias de Tokio, Universidad de Tokio, Universidad de Aizu)
El Instituto de Ciencias de Tokio, la Universidad de Tokio y la Universidad de Aizu, con su experiencia en ciencias sociales computacionales relacionadas con los medios sociales, desarrollarán tecnología para evaluar el impacto de la desinformación.
Mediante la ampliación de los LLM para construir un modelo de IA para la evaluación de la desinformación, las tres partes analizarán las características de la desinformación, como la similitud con desinformaciones anteriores y la velocidad de proliferación, centrándose en la fuente, el contenido y el contexto social de los mensajes a partir de los datos de las redes sociales.
Esto permitirá evaluar parámetros como la escala de proliferación y el impacto social. Este desarrollo de tecnología para visualizar y evaluar cuantitativamente el impacto social de la desinformación representa un esfuerzo muy avanzado.
Planes de futuro
En el año fiscal 2024, el proyecto se centrará en analizar casos de uso para empresas privadas e instituciones públicas, definir los requisitos funcionales e iniciar la I+D de tecnologías individuales, con el desarrollo del sistema final previsto para finales del año fiscal 2025.Con el desarrollo de esta plataforma, Fujitsu y sus socios del consorcio pretenden contribuir a la estabilidad económica ante el creciente riesgo de desinformación y, con el apoyo de NEDO, ayudar a incrementar el desarrollo de nuevas industrias, la competitividad internacional y reforzar la posición global de Japón.
