Según la Oficina Federal de Tecnología de la Información (BSI), Alemania pronto no superará su dependencia de soluciones en la nube, modelos de IA y otros productos tecnológicos del extranjero. Dado que el estado no puede usar sus sistemas y datos digitales hasta que se avise más sin información de los países no europeos, es a corto plazo incorporar tantos mecanismos de control como sea posible, explica la presidenta de BSI, Claudia Plattner. «Cuando se trata de digital soberanía Si, es decir, el uso de fabricantes y proveedores de servicios europeos o alemanes, también para satélites o aplicaciones de IA, entonces debe ser honesto “, dice Plattner de la agencia de prensa alemana.
Las empresas de tecnología estadounidense están a diez años por delante
Los progresos son visibles aquí. Sin embargo, está claro que algunas de las grandes empresas, especialmente de la EE.UUya han sido diez años antes de las inversiones relevantes ».
Esto significa para las autoridades y empresas en Alemania: “Tenemos dependencias tecnológicas en muchos lugares”. No es realista creer que “podremos hacer todo nosotros mismos a corto plazo”, dice Plattner, quien ha estado al jefe de la oficina federal durante unos buenos dos años.
El BSI es la oficina estatal central en Alemania para cuestiones de seguridad de TI. Pertenece al área de negocios del Ministerio Federal del Interior. La Oficina Federal, con sede en Bonn, apoya a las autoridades del gobierno federal a asegurar sus sistemas de TI, advirtiendo sobre los riesgos y el desarrollo de estándares de seguridad que también son relevantes para las empresas. Para las empresas en las infraestructuras críticas llamadas SO, esto incluye energía, salud, telecomunicaciones y transporte: la ley incluso requiere ciertos requisitos de BSI.
El control es importante
Según el jefe de BSI, se requiere una estrategia en el lado de las autoridades, según la cual se decide qué tecnologías se compran desde el exterior “y cómo obtenemos una cierta cantidad de control sobre ella”. Tal construcción también es la cooperación de BSI con Google, que se cerró en el primer trimestre de este año.
Google Cloud y el BSI firmaron un acuerdo en febrero. El objetivo es apoyar el desarrollo y la provisión de soluciones de nubes seguras para las autoridades a nivel federal, estatal y local. “Un enfoque especial del acuerdo está en la concesión de la soberanía de los datos”, dijo en un mensaje.
¿Extender potencial para los Estados Unidos?
La crítica de Harry al acuerdo provino de la Sociedad de Ciencias de la Computación en marzo. Ella explicó que era “irresponsable que el gobierno de los Estados Unidos reciba un potencial de extorsión adicional, además de una autoridad alemana responsable de TI sin seguridad”. Debido a la situación legal en los Estados Unidos, Google no puede ofrecer un servicio seguro. La “Ley en la nube” regula el acceso de las autoridades estadounidenses a los datos almacenados por las empresas estadounidenses, incluso si estos datos están fuera de los Estados Unidos, por ejemplo, en servidores en Europa.
Actualizaciones sí, comandos de control no controlados no
Cada aplicación, cada teléfono inteligente y cada sistema operativo envían muchos datos, como datos de diagnóstico, dice Plattner. Al cooperar con Google, uno quiere asegurarse de que no haya salida de datos no controlado “.
Al mismo tiempo, se trata de verificar lo que entra. “Porque de lo contrario sería posible poner todas las nubes, todos los paneles solares o todos los vehículos eléctricos de un fabricante en un solo derrame cerebral”. Sin embargo, dado que debe haber acceso a actualizaciones, la pregunta de control no es trivial. Por lo tanto, el BSI se encarga de este tema intensamente.
Leyes problemáticas también en China
La Ley de la Cloud de los Estados Unidos es una de las diversas leyes en los Estados Unidos, que otorgó muchos acceso al estado, coloca a Plattner. Puedes encontrar algo así en China. Desde el punto de vista del jefe de BSI, la respuesta a la cuestión del control no debe ser política, sino tecnológicamente. “Se trata de garantizar que el acceso no sea técnicamente posible”, enfatiza. En particular, se trata de cifrado y la cuestión de si el usuario tiene soberanía sobre estas claves.
Nube separada del proveedor alemán
El proveedor de la nube alemán Iones recibió una orden de la administración federal para construir una solución de nube de computadora particularmente estrictamente asegurada en la primavera. Según la compañía, la “Nube de Enterprise Private”, que fue certificada por el BSI, se operará en los centros de datos del Bund del Centro de Tecnología de la Información. Lo especial de la solución de la subsidiaria de United Internet es que esta plataforma no está conectada a Internet público.
¿Quién es responsable de la seguridad de la IA?
Para ChatGPT, Gemini y otros modelos de IA, las reglas han estado en la UE desde el 2 de agosto, que están destinadas a hacer que la inteligencia artificial sea más transparente y más segura. Pero, ¿quién en Alemania es responsable del hecho de que los modelos de IA no corren riesgos, por ejemplo, porque son causados involuntariamente por ellos o pueden ser manipulados por los piratas informáticos?
Hasta ahora, aún no ha sido finalmente aclarado qué papel jugará la Agencia Federal de Redes y el BSI aquí. Plattner está convencido: “Como BSI, somos la autoridad, que es responsable de la seguridad cibernética, y con eso también tenemos que asumir la responsabilidad en términos de inteligencia artificial”. Las regulaciones necesarias para la distribución de estas tareas están siendo redactadas por el gobierno federal.
BSI Boss considera una decisión rápida de ser necesaria
El factor de tiempo aquí es extremadamente importante en vista del ritmo con el que AI se está desarrollando actualmente, advierte el jefe de BSI. Las preguntas centrales son, por ejemplo, ¿cómo prevenir las inyecciones de inmediato? Esto significa que la intersección dirigida de las entradas manipuladas en los sistemas de IA se entiende para controlar su comportamiento. “¿Y cómo puedo evitar que una IA se use con malos propósitos?”
El jefe de la oficina federal otorga gran importancia al hecho de que las reglas para el uso de IA seguro no deben bloquear, sino “acompañar a las innovaciones”. Mientras tanto, las empresas solo pueden aconsejarles urgentemente que no agregen datos relacionados con la seguridad y “se dan una cuenta de empresa razonable” con la posibilidad de detener las funciones de privacidad para que el “Ki Shadow” no llegue demasiado lejos.
© DPA-Infocom, DPA: 250812-930-900852/1
