IA avança, mas falta de experiência dos profissionais preocupa o mercado
A inteligência artificial ganhou espaço nas empresas em ritmo acelerado. Modelos generativos comerciais, chatbots próprios e agentes autônomos já estão sendo incorporados a processos de diferentes áreas. Enquanto as organizações buscam produtividade e novas formas de automatizar tarefas, uma questão essencial ainda não recebe atenção proporcional: há profissionais preparados para desenvolver, implementar e proteger essas soluções?
O surgimento de certificações dedicadas à segurança da IA indica que o mercado começou a reconhecer uma lacuna de conhecimento. CompTIA, ISACA e EC-Council já oferecem credenciais relacionadas ao tema, e a ISC2 está mobilizando especialistas de vários países para desenvolver sua própria certificação. Esse movimento vai além da criação de uma nova especialidade: revela a distância entre a velocidade de adoção da tecnologia e a maturidade necessária para administrá-la com segurança.
A história recente da computação em nuvem ajuda a entender o cenário. Entre 2019 e 2020, a transformação digital levou muitas empresas a acelerar a migração de serviços, tanto para ampliar operações quanto para sustentar o trabalho remoto. Em diversos casos, porém, a infraestrutura evoluiu mais depressa do que a capacidade das equipes de configurá-la e protegê-la.
Vieram então incidentes causados por permissões excessivas, configurações inadequadas e armazenamento exposto. Nem sempre a tecnologia em si era o problema. Muitas falhas estavam na maneira como os recursos eram implantados, administrados e monitorados por equipes que ainda estavam aprendendo a trabalhar naquele ambiente.
A IA pode reproduzir esse padrão. Algumas organizações parecem priorizar a adoção imediata, com a expectativa de obter resultados rápidos, sem avaliar com o mesmo cuidado as consequências para a segurança, a privacidade e a governança. A criação de um chatbot ou de um agente autônomo pode parecer simples, mas as aplicações frequentemente se conectam a dados, sistemas e serviços que exigem controles rigorosos.
Um assistente ligado a documentos internos, por exemplo, pode revelar informações confidenciais se o acesso não for bem delimitado. Modelos de linguagem também podem ser manipulados por instruções maliciosas, em ataques conhecidos como *prompt injection*. Já um agente com permissões amplas demais pode executar ações inesperadas, acessar recursos indevidos ou ampliar o impacto de uma vulnerabilidade.
Os riscos não se limitam ao uso da ferramenta. Eles podem surgir durante o desenvolvimento e a integração: dados de treinamento impróprios, credenciais expostas, controles de acesso deficientes e ausência de validação das respostas são alguns dos problemas possíveis. Também é necessário considerar a manutenção dos modelos de aprendizado de máquina criados dentro da própria empresa.
Muitos desses desafios têm relação com temas conhecidos, como desenvolvimento seguro, arquitetura de sistemas, proteção de dados e gestão de riscos. A diferença é que a IA cria novas superfícies de ataque e combina usuários, modelos, informações e aplicações externas de maneiras que nem sempre são previsíveis.
Por isso, saber operar uma ferramenta não é o mesmo que saber protegê-la. Os profissionais precisam compreender como os sistemas de IA podem falhar, quais vulnerabilidades podem ser exploradas e que medidas reduzem a probabilidade e o impacto de um incidente. Interfaces mais intuitivas facilitam a criação de protótipos, mas não eliminam a complexidade técnica que existe por trás deles.
Essa necessidade vale também para especialistas experientes. Conhecimento em redes, sistemas operacionais, desenvolvimento ou gestão de riscos continua sendo importante, mas pode não bastar para avaliar aspectos específicos da IA. É preciso ampliar as competências, entender o funcionamento das aplicações e considerar os riscos desde a concepção, e não somente depois que uma solução entra em operação.
As empresas podem começar identificando quais ferramentas e modelos já estão em uso, inclusive aqueles adotados por equipes sem envolvimento formal da área de tecnologia. Em seguida, devem avaliar que tipos de dados são processados, a quais sistemas cada aplicação tem acesso e quais consequências poderiam ocorrer caso o modelo fosse manipulado ou fornecesse uma resposta incorreta.
Também é fundamental limitar privilégios. Um agente automatizado deve receber apenas as permissões necessárias para cumprir sua tarefa, com mecanismos de supervisão para ações sensíveis. Revisões de acesso, proteção de credenciais, testes de segurança e acompanhamento das integrações ajudam a evitar que uma falha localizada se transforme em um problema mais amplo.
A governança precisa acompanhar todo o ciclo de vida da solução: escolha ou desenvolvimento do modelo, uso dos dados, implantação, monitoramento e atualização. Políticas claras podem definir quais informações podem ser inseridas em ferramentas externas, quando uma pessoa deve revisar as respostas e quem responde por decisões automatizadas.
A capacitação dos funcionários também deve ir além de ensinar comandos e boas práticas de produtividade. Usuários e equipes técnicas precisam reconhecer limites, identificar resultados possivelmente incorretos e saber como comunicar incidentes. Treinamentos específicos ajudam a reduzir erros e a evitar que a confiança excessiva na automação substitua a avaliação humana.
Certificações especializadas podem contribuir para organizar esse conhecimento e estabelecer referências profissionais, mas não substituem a experiência prática nem uma estratégia de segurança consistente. O desafio das organizações é combinar formação, processos, controles técnicos e responsabilidade clara sobre cada aplicação.
Nos próximos anos, a presença da IA tende a crescer, assim como a variedade de sistemas que as empresas desenvolvem e integram. A vantagem competitiva, portanto, não estará apenas em adotar a tecnologia antes dos concorrentes. Também dependerá da capacidade de usá-la de forma confiável, proteger dados e sistemas e manter profissionais preparados para lidar com riscos que ainda estão evoluindo.