Por Aaron Harris, CTO en Sage
Aaron Harris
| 27 feb 2024
La IA está revolucionando el funcionamiento del sector contable, impulsando el rendimiento de los equipos humanos al asumir la carga de tareas repetitivas, pero necesarias, y acelerando la capacidad de análisis. Pero la contabilidad se basa en la confianza. Por lo tanto, las empresas deben estar totalmente seguras de que la IA funciona con precisión antes de poder utilizarla en todo su potencial.
Incluso la herramienta de inteligencia artificial más innovadora solo es útil si se utiliza correctamente. Y la gente solo se siente cómoda dejando el trabajo en manos de la tecnología si confía en que hará el trabajo de forma segura y competente. Un reciente estudio de KPMG, por ejemplo, revela que el 61% de las personas desconfían de los sistemas de IA.
Entonces, ¿cómo podemos infundir confianza en la IA diseñada para apoyar la función de los contables? Se trata de adoptar un enfoque responsable y humilde en el desarrollo de esta tecnología y trabajar en colaboración con los clientes durante todo el proceso, asegurándose de que confían no solo en la tecnología, sino también en la empresa que la respalda.
El mantra de Mark Zuckerberg, “Muévete rápido y rompe cosas“, no se aplica a la IA. Está claro que puede ser una fuerza poderosa para el bien, pero, precisamente por su velocidad y escala de operaciones, tiene también una gran capacidad para hacer daño. En un sector como la contabilidad, la responsabilidad última recae en los equipos humanos, por lo que es necesario encontrar el equilibrio entre una tecnología que mejore los flujos de trabajo y la presencial de la orientación y las contribuciones humanas.
Por ejemplo, podría ser útil crear una herramienta de IA capaz de dar rápidamente puntuaciones de crédito a pymes. Sin embargo, hoy en día existe el riesgo de que esta tecnología tenga sesgos, por lo que podría otorgar, injustamente, puntuaciones más bajas a las empresas dirigidas o propiedad de mujeres o colectivos minoritarios. En Sage, somos cautos a la hora de utilizar la IA de forma que pueda perjudicar involuntariamente a determinados grupos porque queremos garantizar la equidad para todas las empresas.
Para llegar a un punto en el que la IA pueda proporcionar estos resultados, hay que articular principios claros que definan lo que harás y lo que no harás con esta tecnología, ya que esto genera confianza en los clientes, que comprenden para qué tipo de problemas se utilizará la IA.
Estos principios orientan a los desarrolladores para elegir qué problemas podemos resolver con la Inteligencia Artificial que no conlleven riesgos sociales. Contar con auditories de IA para identificar áreas concretas en las que aplicarla también puede combatir posibles sesgos, así como invertir en la contratación de equipos de desarrollo diversos, que incorporen pluralidad de pensamiento y experiencias vividas.
La diversidad sigue siendo un problema en el sector de la IA, ya que menos del 25 % de sus empleados se identifican como minoría racial o étnica en un estudio de McKinsey de 2022. Mientras tanto, las mujeres representaban solo el 26 % de los trabajadores del sector de los datos y la IA a nivel mundial en 2021, y se puede afirmar que esta cifra no se habrá igualado en 2023.
Sólo hace falta un error para perder la confianza en un contable, sobre todo en las pequeñas empresas, donde incluso los errores más pequeños pueden causar grandes problemas. Por eso es tan importante que, cuando los contables empiecen a utilizar la tecnología para automatizar tareas que antes hacían las personas, confíen en que va a funcionar bien.
Un ejemplo es cómo estamos abordando el desarrollo de la IA en Sage, creando una tecnología que funciona tan bien como un ser humano. Involucrar a los profesionales que finalmente trabajaran con esta tecnología en el proceso de desarrollo, nos ayuda a asegurarnos de que vamos por el buen camino. Al trabajar mano a mano con nuestros clientes, podemos entender realmente qué es lo que necesitan, en que les resulta útil la IA y utilizar sus comentarios para mejorarla.
Los contables no tienen tiempo de revisar miles y miles de transacciones, así que estamos desarrollando una tecnología que identifica las transacciones anómalas para su revisión. Al principio, pensamos que sería valioso señalar todos y cada uno de los problemas inmediatamente. Pero esto interrumpía el flujo de trabajo de los empleados. Así que, guiados por nuestros clientes, lo rediseñamos para proporcionar valores atípicos agrupados presentados como problemas potenciales. Incluso si sólo hay un problema real en una lista de 100 que proporciona la IA, eso aporta valor porque de otro modo podría haberse pasado por alto. Y, además, al reaccionar ante las necesidades reales de los clientes, les demostramos que entendemos cómo trabajan y tomamos decisiones con el objetivo de aumentar su eficiencia, dos elementos clave para generar confianza.
El desarrollo de la IA va más allá de comprender cómo las personas tomamos una decisión o realizamos una tarea. También hay que tener en cuenta las emociones humanas. Por ejemplo, la IA tiene el potencial de pagar a los proveedores sin revisión humana. Pero eso requiere un acto de fe que la mayoría de los usuarios no están dispuestos a hacer, ya que es inevitable cuestionarse si la tecnología hace lo que dice. Si se comprende el elemento emocional, se puede diseñar una solución con el grado adecuado de supervisión y control humanos. En el caso de los pagos a proveedores, necesitaríamos un grado significativamente mayor de confianza en nuestras predicciones y seríamos mucho más conservadores a la hora de automatizar las decisiones. En pocas palabras, cuanto más preocupados estén los empleados por la posibilidad de equivocarse, más control deberían tener sobre el proceso.
La IA ya está impulsando el sector de la contabilidad, pero a medida que aumente su adopción y las interacciones con ella se hagan más evidentes, la confianza en la tecnología será aún más fundamental.
Esta confianza se debe a varios factores. En primer lugar, la IA debe ser precisa para que la gente pueda confiar en que dará los resultados correctos. Se trata de ser honestos sobre sus limitaciones y gestionar las expectativas. Las empresas deben estar seguras de que los desarrolladores que crean la IA la han probado a fondo y han estudiado detenidamente su impacto en la sociedad. Significa ser transparente, autocontrolarse y cumplir la normativa a medida que evoluciona. Y, lo que es más importante, significa comprender cómo encajan las personas y la Inteligencia Artificial. Ahora más que nunca, sus desarrolladores y las personas que la utilizan deben trabajar codo con codo para garantizar que esta tecnología actúe correctamente.
La posibilidad de que la IA potencie a las pequeñas y medianas empresas es enorme. La confianza es el factor diferenciador que puede ayudar a liberar ese potencial.
