Analistas advierten a las empresas de que no deberían instalar el nuevo navegador Atlas de OpenAI

Si su empresa está considerando utilizar el nuevo navegador ChatGPT Atlas de OpenAI no debería precipitarse. Son varios los analistas que esta semana han advertido de los riesgos de seguridad que conlleva. Presentado el pasado martes tras meses de rumores acerca de su desarrollo, sólo está disponible para MacOS. Puede ayudar a automatizar la navegación online en función de las preferencias del usuario e incorpora ChatGPT como página de inicio, donde la tecnología puede tomar el control del navegador para ejecutar tareas basadas en la web.

Así, por ejemplo, si un usuario está viendo una receta y quiere prepararla, el navegador irá automáticamente a sitios como Instacart y realizará un pedido de los ingredientes. Mientras, el chatbot agente, ubicado en un panel lateral, puede realizar cambios en documentos de Google Docs basándose en las solicitudes del usuario. Es más, Google Docs ya tiene una función de sugerencias para automatizar los cambios en los documentos.

Los críticos han señalado de inmediato lo vulnerable que resulta Atlas al pirateo de ‘prompts’ o peticiones, de modo que ‘prompts’ maliciosos integrados en las páginas web podrían dar lugar al robo de datos.

Además, depende en gran medida de los datos personales para personalizar la navegación. Por eso, como defiende Bob O’Donnell, analista principal de Technalysis Research, el secuestro de ‘indicaciones ‘prompts’ podría dar lugar al robo de identidad o de propiedad intelectual. En su opinión, “las empresas van a cortar el acceso, ya que están preocupadas por la seguridad”, y añade: “Es evidente que se trata de un problema grave que debe solucionarse antes de que se generalice”.

Por su parte, Oded Vanunu, tecnólogo jefe y director de investigación de vulnerabilidades de productos, ya advirtió el pasado miércoles en una nota lanzada a los medios que las organizaciones deben tratar los navegadores con IA como Atlas como tecnologías de alto riesgo. En su opinión, este tipo de navegadores requieren “una supervisión reforzada, políticas claras de uso aceptable y restricciones en el acceso a datos sensibles hasta que maduren las prácticas de seguridad”.

Por eso “no recomendaría a las empresas que implementaran ningún navegador nuevo sin un proceso de pruebas exhaustivo para confirmar que no hay problemas de seguridad, pero también que cualquier aplicación basada en navegador ya instalada en la empresa funciona correctamente”, afirma Jack Gold, analista principal de J. Gold Research. Sus capacidades de agente le permiten navegar por sitios web, ejecutar tareas de varios pasos y coordinar acciones entre pestañas, al tiempo que se mantiene la supervisión humana y la auditabilidad en los flujos de trabajo sensibles, explica Arnal Dayaratna, vicepresidente de investigación para el desarrollo de software en IDC.

Por eso, a su juicio, Atlas es un sistema prometedor para la productividad empresarial. “Dicho esto, aún no se ha probado en entornos regulados a gran escala, y tampoco se ha demostrado aún su resistencia al abuso de agentes, la inyección rápida y otras amenazas específicas de los navegadores”.

El hecho de que se haya lanzado para macOS de manera exclusiva limita aún más su idoneidad a corto plazo para una adopción generalizada por parte de las empresas. Al menos hasta que la disponibilidad multiplataforma y unas garantías de seguridad más sólidas sean una realidad palpable. Por eso, Dayaratna cree que “las organizaciones deben tratar Atlas como un candidato piloto inicial, no como un sustituto predeterminado del navegador, mientras ellas y la comunidad de usuarios evalúan sus capacidades, controles de seguridad y gobernanza, resultados del equipo rojo y claridad de la hoja de ruta para Windows y las implementaciones gestionada”.

Dane Stuckey, director de Seguridad de la Información de OpenAI, ha querido salir al paso en X acerca de las preocupaciones de seguridad. Por un lado, reconoce que los atacantes podrían sesgar la opinión de un agente de IA mientras compran, u obtener que otro recopile y filtre datos privados, como información confidencial del correo electrónico o credenciales. “Todavía puede cometer errores (¡a veces sorprendentes!), como intentar comprar el producto equivocado u olvidarse de consultarle antes de tomar una medida importante”.

Dicho esto, OpenAI ha tomado medidas para mitigar los riesgos de seguridad, afirma Stuckey. El agente aumenta la seguridad si detecta datos personales en una página. También tiene un “modo de desconexión” en el que un agente de ChatGPT puede actuar sin acceder a las credenciales del usuario.

OpenAI dispone de un historial de lanzar versiones de su software al público y luego corregir los problemas a partir de los comentarios de los usuarios. De esta manera sigue el ejemplo de empresas como Google, Meta y Netflix durante décadas como parte del modelo DevOps.

A pesar de los riesgos inherentes, los analistas siguen intrigados por las posibilidades que Atlas podría ofrecer a medida que madure. O’Donnell cree que el navegador tendría más valor si incluyera un modelo de IA en el dispositivo que pudiera funcionar sin necesidad de acceder a Internet. “Esto proporciona un canal a través del cual pueden conseguir que cientos de millones de personas descarguen su modelo”, apostilla. Así, el navegador podría acceder a modelos de IA de gran peso en la nube con el propósito de manejar tareas más exigentes.

Aparte de Atlas, OpenAI también está creando una aplicación de productividad para competir con Microsoft 365 y Google Workspace, con más funciones de IA a Edge y Chrome, respectivamente. Lo cual le serviría como conducto, según sostiene Gold, para ofrecer aplicaciones de productividad a los ordenadores de sobremesa, especialmente ahora que los navegadores se están convirtiendo en la interfaz de las aplicaciones corporativas y de consumo.

La gran pregunta es cuánta exposición quiere proporcionar OpenAI a su principal modelo ChatGPT basado en la nube, sólo disponible en su totalidad con una suscripción. Gold cree que “la adopción de la IA tendrá lugar principalmente a través de la integración de aplicaciones empresariales, ya que los usuarios individuales representan una pequeña parte de los ingresos”. Está claro que los primeros en adoptarla sin duda querrán probarla, afirma Patrick Moorhead, analista principal de Moor Insights and Strategy. Pero es difícil imaginar que el nuevo navegador pueda suplantar rápidamente a los ya consolidados.

“Soy escéptico respecto a su popularidad generalizada frente a Chrome o Edge, ya que los usuarios más convencionales, principiantes y corporativos simplemente esperarán a que sus navegadores favoritos ofrezcan esta capacidad”, reconoce aquel especialista. Y es que, en su opinión, Edge ya ofrece muchas de esas capacidades.

Más allá de Atlas, los navegadores con IA comienzan a constituir una nueva de navegar por la web. Perplexity lanzó su navegador con IA llamado Comet, que ofrece una funcionalidad similar. Mientras tanto, Atlassian adopta un enfoque centrado en las empresas y da prioridad a la seguridad con su navegador con IA llamado Dia, resultado de la adquisición de The Browser Co. por 610 millones de dólares completada la semana pasada.

(computerworld.es)

Les estaremos informando con mucho más detalle, en el marco del informe especial: “Ciberseguridad basada en AI, Ciberseguridad convencional, (Data centers, redes y dispositivos). Ciberseguridad multinube, Ciberseguridad en universo hiperconectado, Arquitecturas de Ciberseguridad basadas en AI», que estamos preparando para nuestra edición 217 y publicaremos en el mes de octubre.

Mantente conectado a nuestra revista Channel News Perú, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario.