La empresa que viene donde conviven humanos, datos y agentes de IA

La conversación sobre inteligencia artificial en las empresas suele comenzar por las herramientas. Cosas como qué modelo utilizar, qué plataforma contratar o qué procesos automatizar. Sin embargo, existe una pregunta anterior y mucho más importante: ¿qué problema queremos resolver?

La adopción empresarial de la IA no comienza realmente con ChatGPT, los agentes o los grandes modelos de lenguaje, sino con los datos, los procesos y el conocimiento que una organización posee sobre su propio funcionamiento. Sin estas bases, incluso la tecnología más avanzada corre el riesgo de convertirse en una solución costosa para un problema mal definido.

Buenos datos permiten crear una "buena" inteligencia artificial

Las empresas llevan décadas acumulando información procedente de clientes, facturación, productos, páginas web, aplicaciones y sistemas internos, pero disponer de muchos datos no significa necesariamente disponer de información útil. Los registros pueden estar duplicados, incompletos o desactualizados y, además, un mismo concepto puede tener significados distintos según el departamento que lo utilice.

Aquí aparece la gobernanza del dato, que consiste en establecer qué significa cada información, quién es responsable de ella, cuándo debe actualizarse, qué nivel de calidad debe mantener y qué ocurre cuando se detecta un error. El objetivo no es simplemente almacenar información, sino garantizar que pueda utilizarse con suficiente confianza para tomar decisiones.

Esta cuestión se vuelve todavía más importante con la inteligencia artificial porque los modelos predictivos, los sistemas generativos y los agentes dependen directamente de la información que reciben. Si los datos son deficientes, las conclusiones también pueden serlo. Por eso la gobernanza del dato y la gobernanza de la IA forman parte, cada vez más, de un mismo problema empresarial.

Empezar por el "caso de uso", no por la tecnología

Uno de los errores habituales consiste en adquirir una tecnología y buscar después dónde utilizarla. El proceso debería comenzar en sentido contrario, identificando primero una necesidad, un cuello de botella, una tarea repetitiva o una decisión que podría mejorarse y analizando después qué datos y herramientas serían necesarios para resolverla.

Eso es, en esencia, un caso de uso.

Una empresa puede querer anticipar qué clientes tienen mayor probabilidad de comprar un producto, estimar su facturación, detectar posibles fraudes, revisar documentación o analizar automáticamente información financiera. Cada objetivo necesita datos, modelos y niveles de supervisión diferentes, por lo que no existe una estrategia de inteligencia artificial desligada de la estrategia del negocio.

Además, no todos los problemas requieren IA. Si una tarea puede resolverse mediante reglas claras y deterministas, la programación convencional puede ser más sencilla, barata y fiable. La inteligencia artificial adquiere mayor valor cuando aparecen incertidumbre, predicción, grandes cantidades de información o relaciones difíciles de expresar mediante reglas tradicionales.

De responder preguntas a ejecutar acciones

La inteligencia artificial generativa añadió a los modelos predictivos la capacidad de interpretar información y producir respuestas comprensibles, pero los agentes están introduciendo un cambio todavía mayor porque pueden participar directamente en los procesos.

Un sistema podría consultar información empresarial, analizar unos estados contables, detectar anomalías y proponer mejoras. Con los permisos adecuados, incluso podría ejecutar determinadas acciones. La diferencia fundamental es que dejamos de hablar únicamente de una IA que responde para empezar a hablar de sistemas capaces de actuar dentro de una organización.

Cuanta más autonomía tenga el sistema, mayor deberá ser también el control sobre sus permisos, accesos y decisiones.

El conocimiento que nunca se escribió

La llegada de estos sistemas está revelando otro problema histórico de las empresas. Gran parte de su conocimiento no está documentado, sino almacenado en la experiencia de las personas.

Un profesional puede saber cómo resolver una excepción porque lleva quince años enfrentándose a casos similares, mientras que un responsable conoce los pequeños pasos necesarios para organizar un proceso aunque nunca se hayan escrito en ningún manual. Mientras ese conocimiento permanezca exclusivamente en la cabeza de determinadas personas, resultará difícil transferirlo a una inteligencia artificial.

Por eso los procedimientos, criterios, ejemplos y excepciones están adquiriendo un nuevo valor. Convertirlos en documentación estructurada permite proporcionar a los modelos el contexto que necesitan para comprender cómo trabaja realmente una empresa. Ese conocimiento puede además organizarse en unidades reutilizables que puedan ser consultadas por modelos y agentes según la tarea que deban realizar.

Esto conduce a una conclusión importante. La capacidad de automatización de una organización dependerá en buena medida de su capacidad para explicar cómo funciona. Antes de automatizar muchos procesos será necesario, paradójicamente, dedicar tiempo a comprenderlos y documentarlos.

Empresas formadas por personas y agentes

Durante la primera etapa de la IA generativa, la interacción habitual consistía en abrir una ventana y formular una pregunta. El siguiente paso será integrar sistemas especializados directamente en los flujos de trabajo.

Una organización podría disponer de agentes dedicados a planificación, contabilidad, recursos humanos, formación, gestión de agenda o análisis financiero, capaces además de colaborar entre ellos para completar procesos más complejos.

Esto no implica necesariamente eliminar los perfiles humanos asociados a esas funciones. El escenario que empieza a dibujarse es el de organizaciones híbridas, donde los sistemas digitales se ocupan de recopilar información, preparar análisis, detectar anomalías o ejecutar determinadas tareas, mientras las personas mantienen funciones relacionadas con el criterio, la supervisión y la responsabilidad.

Un responsable podría terminar gestionando no solo un equipo de personas, sino también un conjunto de agentes con distintos niveles de autonomía y permisos.

Más autonomía exige más gobernanza

Existe una gran diferencia entre utilizar una IA para redactar un correo y permitir que un agente acceda a bases de datos, consulte información confidencial o ejecute procesos dentro de una empresa. A medida que aumenta la capacidad de actuación, también deben aumentar los mecanismos de control.

Identidad, permisos, trazabilidad, ciberseguridad, protección de datos, supervisión humana y gestión del riesgo pasan así a formar parte de la arquitectura del sistema. Debe estar claro qué puede hacer cada agente, a qué información puede acceder, cuándo necesita autorización y quién asume la responsabilidad por las decisiones que se toman.

En determinadas situaciones, un agente podrá actuar de forma autónoma hasta alcanzar un límite previamente definido. Cuando una decisión supere ese nivel de riesgo, deberá detenerse y solicitar la intervención de una persona. Esta combinación entre automatización y supervisión será uno de los pilares de la gobernanza de la IA.

Construir dentro de la empresa o contratar fuera

El crecimiento de los agentes abre también una nueva decisión estratégica. Las empresas tendrán que decidir qué sistemas desarrollar internamente y para cuáles recurrir a servicios especializados.

Las herramientas actuales permiten crear aplicaciones y automatizaciones con mucha más facilidad que hace unos años, pero construir un prototipo no equivale a mantener un sistema empresarial. Cuando un agente debe estar disponible para toda una organización aparecen necesidades de seguridad, mantenimiento, integración, control de accesos, monitorización, actualización y recuperación ante fallos.

Probablemente se consolidará un modelo mixto. Las empresas desarrollarán internamente aquellas soluciones relacionadas con su conocimiento diferencial, mientras que otras capacidades podrán contratarse mediante plataformas especializadas que ofrezcan agentes preparados, seguros y gobernados.

El verdadero cambio es organizativo

La transformación más importante de la inteligencia artificial empresarial quizá no consista en sustituir una aplicación por otra, sino en modificar la propia estructura del trabajo. Una parte de las actividades será automatizada, otra estará asistida por sistemas inteligentes y algunas decisiones seguirán requiriendo conocimiento y responsabilidad humana.

La pregunta dejará entonces de ser únicamente qué puede hacer la inteligencia artificial para convertirse en una cuestión de diseño organizativo. Qué queremos permitirle hacer, bajo qué condiciones y quién conserva finalmente la autoridad.

Utilizar bien estos sistemas tampoco elimina la necesidad de conocimiento humano. Para formular correctamente un problema, proporcionar contexto y evaluar una respuesta es necesario comprender aquello sobre lo que se está trabajando. Una persona sin conocimientos puede obtener una respuesta de una IA, pero tendrá muchas más dificultades para reconocer cuándo esa respuesta es incorrecta.

La inteligencia artificial puede ampliar enormemente nuestra capacidad para analizar, aprender, programar o crear, pero esa misma capacidad hace todavía más importante saber qué queremos conseguir con ella.

Y después de la empresa híbrida

Incluso empiezan a plantearse escenarios mucho más radicales. Si los agentes pueden analizar información, contratar servicios, ejecutar procesos, coordinarse entre ellos, administrar recursos y tomar determinadas decisiones, surge inevitablemente una pregunta que hasta hace poco pertenecía casi exclusivamente a la ciencia ficción. ¿Podría llegar a existir una empresa creada y administrada principalmente por inteligencia artificial?

Hoy existen obstáculos legales evidentes. Una inteligencia artificial no posee personalidad jurídica propia ni puede asumir responsabilidades del mismo modo que una persona o una sociedad. Sin embargo, eso no significa que el debate vaya a desaparecer. Al contrario, cuanto mayor sea la autonomía de estos sistemas, más difícil será evitarlo.

La primera pregunta será inevitable. ¿Quién responde cuando algo sale mal?

La historia empresarial ya tuvo que enfrentarse a problemas similares cuando fue necesario establecer hasta dónde alcanzaba la responsabilidad personal de quienes participaban en una actividad económica. De aquella evolución surgieron nuevas figuras jurídicas y, entre ellas, las sociedades de responsabilidad limitada. La inteligencia artificial podría obligarnos algún día a plantear otra transformación semejante y a redefinir dónde empieza y dónde termina la responsabilidad de una organización cuando una parte sustancial de sus decisiones ya no procede directamente de seres humanos.

Pero hay preguntas todavía más difíciles.

Si algún día existe una empresa creada y administrada por inteligencia artificial, ¿a quién pertenecerán sus beneficios? ¿Quién será propietario de los activos que genere? ¿A quién corresponderán los derechos sobre una invención desarrollada por sus sistemas? ¿Quién decidirá qué hacer con el capital acumulado si la propia organización es capaz de reinvertirlo, contratar servicios, adquirir tecnología y continuar creciendo?

Estas preguntas podrían parecer hoy excesivamente especulativas, pero conducen a otra todavía más incómoda. Si algún día aceptamos que sistemas de inteligencia artificial pueden administrar organizaciones privadas bajo determinadas reglas, ¿por qué limitar la discusión exclusivamente a las empresas?

¿Podrían existir en algún momento administraciones locales en las que una parte importante de la gestión estuviera delegada en sistemas de inteligencia artificial? ¿Y gobiernos regionales capaces de utilizar agentes para gestionar presupuestos, infraestructuras, transporte, energía o servicios públicos? ¿Podría llegar incluso un país a confiar determinadas funciones administrativas a sistemas autónomos supervisados por instituciones humanas?

Naturalmente, administrar una empresa y gobernar una sociedad son problemas profundamente diferentes. Un gobierno no gestiona únicamente recursos. También representa derechos, intereses, valores, conflictos y decisiones políticas que afectan directamente a millones de personas. Pero precisamente por eso la aparición de sistemas capaces de participar en esas decisiones abrirá cuestiones que no serán solamente tecnológicas, sino también jurídicas, económicas, democráticas y filosóficas.

Quizá nunca lleguemos a una empresa completamente autónoma ni, mucho menos, a una administración pública gobernada por máquinas. Quizá descubramos que existen límites que no estamos dispuestos a cruzar. O quizá algunas sociedades decidan experimentar con modelos que hoy nos resultarían difíciles de imaginar.

Mientras tanto, las empresas humanas tendrán que aprender a convivir con sistemas inteligentes de manera cada vez más estrecha, descubriendo dónde pueden ampliar nuestras capacidades, qué decisiones estamos dispuestos a delegar y cuáles queremos conservar. La empresa del futuro probablemente estará formada, al menos durante una larga etapa, por personas y sistemas inteligentes trabajando juntos. Pero es posible que esa sea solamente una fase intermedia de una transformación mucho mayor.

¿Empresas creadas por inteligencia artificial? ¿Capital administrado por máquinas? ¿Administraciones públicas parcialmente gestionadas por agentes autónomos?

¿Utopía? ¿Distopía? Quizá ninguna de las dos.

El tiempo lo dirá.