Las 3 claves para mantener la privacidad de tu empresa utilizando Inteligencia Artificial

Hablaba no hace muchos días sobre la cancelación masiva de proyectos de IA generativa que estaba habiendo en las empresas y uno de los puntos que comentaba era el de la privacidad que, para mi, es la gran lacra de la incorporación de Inteligencia Artificial en las empresas.

En la actualidad, los agentes de IA es el último grito. Todo el mundo los quiere implementar y utilizar como asistentes de código o como "empleados virtuales" especializados en tal o cual tarea, pero esto da acceso a los agentes a recursos importantes de la empresa como son datos o código fuente, y ahí es donde a las empresas ya no les gusta tanto el utilizar Inteligencia Artificial.

En sus planes gratuitos, todas las empresas de IA usan los datos que introduces para seguir entrenando a sus modelos, lo que hace que la foto de tu perro, tus análisis clínicos o el código fuente de tu aplicación, ya forme parte de los datos que utiliza esa empresa para seguir entrenando a sus modelos de cara a nuevas versiones.
Incluso algunas licencias de pago pueden hacer uso de tus datos, ya sea por desconocimiento o por descuido.

Como ejemplo pondremos el CLI de Claude (Claude Code), que en su última actualización de los términos de uso, pide permiso para utilizar tu código y sesiones de chat para entrenar a sus modelos. Es opcional (y reversible), sí, pero con que sólo uno de tus desarrolladores no lea lo que está aceptando y haga el típico "siguiente, siguiente", el código de tu empresa puede estar compartiéndose sin que tú quieras hacerlo.

Privacidad e Inteligencia Artificial son dos términos que, aunque deberían ir de la mano, cada vez están más alejados.

A pesar de las buenas prácticas y de la ética en el uso de la IA que debería gobernar las aplicaciones y LLMs que utilizamos a diario, lo cierto es que, nos guste o no, tenemos que tener muchísimo cuidado para que nuestros datos, ya sean personales o de empresa, no terminen (aunque sea en parte) formando parte del dataset que se usará para entrenar a tal o cual modelo.

A nivel empresarial, es complicado mantener la privacidad, aunque sí podría darte algunos consejos para ayudarte:

• Adquiere licencias que aseguren privacidad: No siempre es fácil, ya que las propias empresas, esconden "trucos" dentro de sus licencias que dejan algunas cosas en el aire cuando hablamos de la privacidad de los datos con los que se trabaja.
• Forma a tus trabajadores: La formación en Inteligencia Artificial (en cómo utilizarla de forma responsable y ética) es clave. Este es un punto que todas las empresas prometen, pero pocas cumplen hoy en día. Si quieres mantener los datos de tu empresa a salvo, tienes que formar a tus trabajadores para que un simple empleado que utiliza Gemini para ayudarle a redactar correos, no termine entregándole a Google datos confidenciales de tu empresa sin darse cuenta.
  Cada área de tu empresa utilizará la IA de forma diferente por lo que plantea una formación diferente para cada una de ellas.
• Si estás convencido de usar IA, invierte en infraestructura: Esto obviamente no es algo que esté al alcance de todo el mundo ya que hoy en día, la infraestructura de Inteligencia Artificial puede llegar a ser carísima, pero un buen departamento de sistemas que sepa escalar las necesidades y que tenga los conocimientos suficientes (y aquí vuelvo a remarcar el punto de la formación) para montar una infraestructura para usar IA en local o en cloud, es clave para no malgastar recursos.
  El poder usar LLMs en tu infraestructura local, te asegura privacidad absoluta y aunque los modelos Open Source no suelen ser tan potentes como los comerciales, es cierto que muchos de ellos sirven de sobra para el uso común empresarial.

Para mi, estos tres puntos son clave para mantener la privacidad de tu empresa respecto a la IA, pero que te permiten seguir utilizando Inteligencia Artificial en tu negocio... ¿Añadirías alguno más? ¡Déjame un comentario en LinkedIn y cuéntamelo!