Estamos a adotar Inteligência Artificial mais depressa do que estamos a discutir as suas consequências?
- Publicado
Foi difícil acompanhar as notícias sobre Inteligência Artificial esta semana sem encontrar alguma discussão sobre os seus riscos.
Dario Amodei, CEO da Anthropic, defendeu que é necessário abrandar o desenvolvimento dos modelos mais avançados para dar tempo às medidas de segurança. Sam Altman, da OpenAI, Elon Musk, da xAI, e outros líderes do setor manifestaram apoio à necessidade de reduzir o ritmo, num momento em que investigadores e responsáveis da indústria voltaram a colocar em cima da mesa cenários de perda de controlo e riscos potencialmente catastróficos.
Há quem considere estes riscos suficientemente sérios para justificar uma intervenção imediata e quem veja alguns destes cenários como especulativos ou exagerados. O próprio setor está longe de ter uma posição consensual sobre a forma de responder ao problema.
Não sei se a Inteligência Artificial alguma vez representará uma ameaça existencial para a humanidade. Neste momento, ninguém sabe.
Mas há consequências muito menos especulativas que já podemos discutir.
Todos os dias colocamos documentos, dados, código e informação das nossas organizações em sistemas de Inteligência Artificial. Começamos a utilizá-los para automatizar tarefas, analisar informação e apoiar decisões. E, cada vez mais, estes sistemas deixam de se limitar a responder a perguntas e começam a executar ações.
Estamos a desenvolver a nossa capacidade para utilizar esta tecnologia ao mesmo ritmo a que estamos a aumentar a sua capacidade?
Esta questão tornou-se ainda mais interessante para mim porque cruza diretamente um trabalho de investigação que desenvolvi com o Professor Rui Pedro Marques.
No estudo Research Trends in Artificial Intelligence in Education and the Ethics of Privacy, recentemente publicado pela IEEE nos proceedings da ADACIS 2025, analisámos dez anos de investigação científica sobre Inteligência Artificial, privacidade e educação.
E aquilo que encontrámos ajuda a perceber que esta discussão não começou esta semana.
O crescimento aconteceu muito depressa
No estudo analisámos a investigação científica publicada entre 2015 e 2024 sobre Inteligência Artificial, privacidade e educação.
E um dos resultados é particularmente evidente.
Até 2020, eram publicados menos de 60 trabalhos por ano sobre estes temas. A partir de 2021, a tendência muda rapidamente e, em 2024, encontramos mais de 700 publicações, mais do dobro das registadas em 2023.
Não significa, naturalmente, que antes não existissem preocupações relacionadas com IA e privacidade. Significa que a expansão recente da Inteligência Artificial, em particular da IA generativa, colocou estas questões no centro da discussão.
O próprio vocabulário da investigação mudou. Entre os termos mais frequentes surgem já ChatGPT, Generative AI, Ethics, Privacy e Data Privacy.
Uma discussão que não pertence apenas à educação
A nossa investigação teve como contexto a educação, mas muitas das questões que encontrámos são hoje exatamente as mesmas que coloco quando trabalho com empresas.
Que informação podemos colocar numa ferramenta de IA?
O que acontece quando carregamos um documento interno?
Podemos utilizar dados de clientes?
Quem valida uma resposta produzida por IA?
E quem é responsável quando uma decisão apoiada por estes sistemas está errada?
Privacidade, transparência, consentimento, enviesamento e responsabilidade aparecem repetidamente na literatura analisada.
São questões cada vez menos teóricas.
Quanto mais a IA deixa de ser apenas uma janela de chat e começa a trabalhar com os nossos documentos, dados e processos, mais importante se torna perceber como estamos a utilizá-la.
Adotar IA também é criar critérios para a utilizar
Tenho defendido nas empresas com que trabalho que experimentar estas ferramentas é importante. Criar medo em torno da tecnologia não resolve o problema.
Mas também não me parece suficiente disponibilizar uma ferramenta e assumir que todas as pessoas saberão automaticamente o que podem ou não podem fazer com ela.
É necessário criar critérios, definir regras internas, formar as pessoas e manter supervisão humana sobre aquilo que realmente importa.
A tecnologia continuará a evoluir rapidamente. Provavelmente será difícil às organizações acompanhar todas as ferramentas, modelos e funcionalidades que vão surgindo.
Por isso, uma parte importante da preparação para esta mudança não passa apenas por aprender a utilizar a próxima ferramenta.
Passa por desenvolver nas pessoas e nas organizações a capacidade de perceber quando utilizar IA, com que informação, para quê e com que responsabilidade.
E isso não se aprende num reel de 60 segundos com um influencer ou guru de IA.
O estudo "Research Trends in Artificial Intelligence in Education and the Ethics of Privacy", desenvolvido por André Bacêlo e Costa e Rui Pedro Marques, foi apresentado na 2025 IEEE International Conference on Advances in Data-Driven Analytics And Intelligent Systems (ADACIS) e encontra-se publicado na IEEE Xplore.