Published on outubro 18, 2023, 12:44 pm
O uso crescente de ferramentas de inteligência artificial generativa nas empresas está levando a um fenômeno conhecido como “shadow AI”. Esse termo é uma analogia ao conceito já conhecido de “shadow IT”, que se refere à utilização de tecnologias não aprovadas ou gerenciadas pelo departamento de TI.
No caso do “shadow AI”, as pessoas estão utilizando ferramentas de IA no ambiente de trabalho sem a prévia homologação ou gestão por parte da área de TI da empresa. Isso representa uma preocupação, pois o controle e monitoramento do uso desses recursos são perdidos.
Um aspecto ainda mais preocupante é a democratização da IA generativa. Essas novas ferramentas exigem pouco conhecimento técnico especializado e podem ser utilizadas por departamentos que até então tinham pouco envolvimento com tecnologia. O baixo custo e os poucos recursos necessários para utilizá-las fazem com que passe despercebido pela gestão e controles tradicionais.
Um dos principais riscos do “shadow AI” é o vazamento de informações. Quando alguém compartilha dados com a inteligência artificial para obtenção de resultados, essas informações se tornam públicas. Isso significa que a ferramenta pode disponibilizar esses dados para terceiros, que estão fora do domínio da empresa, resultando em possíveis violações das regras de compliance e contratos.
Um exemplo disso foi o caso da Samsung, onde engenheiros inseriram um código confidencial no ChatGPT, o que levou à proibição do uso dessa plataforma no ambiente de trabalho.
A falta de conhecimento sobre como a tecnologia funciona e seus impactos na estrutura interna da organização pode levar a crises significativas e, em alguns casos, irreversíveis. É essencial realizar auditorias regulares com as lideranças das áreas de governança de TI e cibersegurança para identificar o uso de IA e evitar o “shadow AI”. Além disso, é importante criar políticas internas, implementá-las e conscientizar os funcionários sobre essas normas.
Existem três pilares fundamentais para combater o “shadow AI” nas empresas:
1. Gerenciamento: mapear as ferramentas de IA disponíveis no mercado que são relevantes e seguras para as tarefas diárias da empresa.
2. Governança: a empresa precisa ter controle sobre as ferramentas utilizadas na área de TI ou em uma área específica dedicada à IA. É responsabilidade dessas áreas definir quem é responsável pela aprovação das ferramentas e acompanhar seu uso dentro da organização.
3. Comunicação: não basta proibir o uso da inteligência artificial no ambiente de trabalho. É fundamental ter um sistema de comunicação aberta sobre o tema (AI Open Communication) para aumentar a transparência e senso de responsabilidade dos funcionários.
Dessa forma, é possível evitar os riscos relacionados ao “shadow AI” e garantir um uso seguro e eficiente da inteligência artificial nas empresas.
