Inteligência Artificial Expõe Novas Vulnerabilidades de Cibersegurança

10:45

À medida que as empresas aceleram massivamente a integração da inteligência artificial nas suas operações, os desafios de cibersegurança tornam-se cada vez mais complexos. Até os gigantes da tecnologia reconhecem que a segurança dos sistemas de IA ainda é um trabalho em progresso.

Num evento em Los Angeles, Francis deSouza, diretor de operações da Google Cloud, admitiu que todo o setor ainda está em fase de aprendizagem em relação à segurança da inteligência artificial. Segundo o mesmo, a proteção de dados e infraestruturas já não pode ser considerada uma etapa secundária, mas deve ser integrada desde o início do planeamento estratégico da IA.

Alertou especificamente para o fenómeno da "IA paralela", que se refere à utilização de ferramentas de inteligência artificial de nível consumidor por parte dos funcionários sem a supervisão da empresa. Esta prática aumenta significativamente os riscos de fuga de dados e de acesso descontrolado.

Francis deSouza enfatizou ainda que nenhuma estratégia de inteligência artificial pode funcionar sem uma estratégia paralela dedicada à segurança de dados e cibernética. Segundo ele, estas três dimensões devem evoluir em conjunto.

O cenário de ameaças transformou-se profundamente nos últimos anos. Os especialistas falam agora de ataques capazes de se desenvolver em questão de segundos. As ameaças já não visam apenas as redes tradicionais, mas também os próprios modelos de inteligência artificial, os fluxos de treino de dados, os agentes autónomos e até as consultas de texto utilizadas para controlar estes sistemas.

Entre os principais perigos identificados está a capacidade dos agentes de IA explorarem automaticamente as infraestruturas digitais das empresas. Estes sistemas podem detetar servidores legados, bases de dados esquecidas ou pontos de acesso inseguros que permaneceram invisíveis durante anos.

Perante esta nova realidade, os especialistas acreditam que as empresas terão de adotar mecanismos de defesa automatizados baseados em inteligência artificial, capazes de reagir à velocidade das máquinas, mas ainda assim supervisionados por equipas humanas.

Mas os desafios não se limitam aos ciberataques. O sector enfrenta também uma significativa escassez de competências especializadas capazes de monitorizar e proteger estes novos ambientes tecnológicos.

Ao mesmo tempo, a própria Google enfrenta críticas após vários incidentes relacionados com os seus serviços de IA. Os programadores que utilizam a API Gemini relataram cobranças inesperadas, por vezes atingindo milhares de dólares, após o comprometimento das suas chaves API.

De acordo com várias investigações relatadas por meios de comunicação especializados, algumas chaves inicialmente concebidas para serviços como o Google Maps obtiveram um acesso alargado ao Gemini após alterações internas de permissões, sem comunicação suficientemente clara aos programadores.

Outras pesquisas de cibersegurança revelaram também que algumas chaves de API comprometidas continuaram a funcionar durante vários minutos após terem sido eliminadas, devido ao tempo necessário para que as alterações se propagassem através da infraestrutura na nuvem.

Estes diversos incidentes realçam uma realidade cada vez mais evidente: apesar dos seus avanços tecnológicos, as grandes empresas digitais ainda procuram o equilíbrio certo entre a inovação rápida e a segurança robusta na era da inteligência artificial.