Neste artigo vamos dar continuidade a nossa curva de aprendizagem sobre IA. Nosso foco aqui serão quais os maiores riscos apresentados pela IA e qual a postura que as empresas precisam ter para se proteger e usufruir da IA com segurança.
Por todos os lados, vemos informações que nos remetem aos desafios da IA, mas o que é certo é que ainda não temos domínio total de todas as suas implicações.
Como toda novidade, ela vem carregada de euforia pela sua chegada, associada a ansiedade para a sua implementação e como consequência, um funil encurtado para avaliação dos seus riscos e potenciais danos.
Um relatório do Fórum Econômico Mundial afirmou recentemente que as organizações estão subestimando os riscos relacionados à IA e que apenas 4% dos líderes consideram o nível de risco como significativo.
Dentre os riscos, podemos citar alguns dos mais abrangentes que estão concentrados em quatro categorias:
- Precisão: não podemos confiar que os resultados da IA generativa sejam precisos, pois as ferramentas de pesquisa, como ChatGPT e outras, são alimentadas com informações vindas das pessoas que as utilizam, portanto, não temos clareza da fonte e da sua veracidade. Muitas vezes, podem estar incorretas ou distorcidas, o que vai refletir diretamente na nossa tomada de decisão e ações.
- Cultura e ambiente interno: a implementação de novas tecnologias e mudanças na rotina comumente são geradores de ansiedade nos colaboradores. A novidade traz desacomodação e gera desconforto pela necessidade de aprender e pelo medo da substituição. Todos esses fatores podem gerar uma quebra de clima organizacional e consequentemente uma possibilidade de perda de talentos e redução da produtividade e da felicidade.
- Qualidade dos entregáveis: os sistemas de IA dependem totalmente da conformidade dos dados com os quais são treinados. Os resultados podem ser distorcidos, subestimados ou superestimados e podem afetar diretamente a tomada de decisões. Por exemplo, ao utilizar uma ferramenta de digitalização de documentos e pedir que ela filtre de acordo com alguma informação relevante, se essa informação não estiver presente nos documentos, o resultado será desprezível, pois não terá levado em conta o filtro necessário. E, se mesmo assim, o resultado for utilizado sem criticidade, levará a grandes danos para a organização.
- Ameaças à segurança: Elas podem ser internas ou externas. Internas quando informações corporativas vão parar na nuvem através do uso de ferramentas como ChatGPT, sem treinamento prévio e de forma irresponsável. E externas, quando a empresa sofre ataques sofisticados de cibercriminosos que conseguem manipular e criar mensagens falsas, por exemplo, dos dirigentes de uma empresa pedindo que os seus colaboradores compartilhem na nuvem informações confidenciais.
O mais sensato seria que as empresas nomeassem um comitê de avaliação de riscos para que todos esses potenciais problemas fossem levantados e mitigados de forma cautelosa, para que a IA seja utilizada como uma grande aliada para o desenvolvimento da empresa e perfeitamente “incluída” junto aos colaboradores.
A IA veio para andar de braços dados com as pessoas, dando tração as demandas do dia a dia e tornando a vida mais leve e feliz. Precisamos apenas conhecer suas forças e fraquezas para que a convivência seja segura e produtiva.
Encontro vocês no nosso próximo episódio!
Patricia B. Bordignon Rodrigues é diretora de Marketing e Canais Benkyou.
*Este texto reproduz a opinião do autor e não reflete necessariamente o posicionamento da Mercado&Consumo.
Imagem: Shutterstock