Acompanhe toda a atualidade informativa em 24noticias.sapo.pt

Manuela Veloso é uma das vozes mais respeitadas na área da inteligência artificial. Fundou e liderou o departamento de IA do banco JPMorgan Chase, foi chefe do departamento de Machine Learning na Carnegie Mellon University e dedicou anos a construir sistemas que trabalham com humanos e não apenas para os humanos. Esteve no Porto para o Data Makers Fest, onde falou com o TNBI sobre responsabilidade, confiança e o que ainda falta para a IA ser verdadeiramente inteligente.

Serão as empresas responsáveis pelos erros da IA mesmo quando não percebem como ela chegou a determinada conclusão?

“Usar o que a tecnologia faz é da responsabilidade do utilizador, não de quem gerou [o resultado]. Quando se faz um Excel e se põe qualquer função lá, não se está a controlar, ou a ter responsabilidade, pelo que vai para as colunas. Quem usa é quem é responsável.”

Mas as empresas estão preparadas para essa responsabilidade?

“Está tudo um pouco mal do ponto de vista de quererem perceber a IA. As empresas têm de perceber o seu próprio produto, têm de estar extremamente focadas [na sua área]. Há três níveis em que se têm de preparar: o hardware, onde é que a computação corre, se é na cloud, se é local; os modelos, que software vão usar, o Gemini, o ChatGPT, open source, closed source; e depois os casos de uso, ou seja, o que vamos fazer [com a IA]. É melhorar a interação com clientes, o marketing, a velocidade de processamento de informação? Antigamente comprava-se o Microsoft Office e vinha tudo num pacote. Agora há muitas mais decisões.”

Ouve-se muito que as empresas querem navegar a onda da IA mas não têm uma estratégia de dados. Isso é o problema central?

“O papel dos dados também está exagerado. Os dados são muito repetitivos. Se houver dados de pessoas que fazem transações monetárias, todos os meses pagam a renda, todos os meses pagam a eletricidade, há muitos dados… mas o que eles dizem é muito menos do que o seu tamanho. E depois há outra coisa que as pessoas se esquecem, que é a questão das regras, dos princípios e dos teoremas. O Teorema de Pitágoras, A² mais B² igual a C², não precisa de dados nenhuns. Se souber este princípio, está feito, não é preciso estar a dar os exemplos.

Tenho mais obsessão com o conhecimento do que com os dados. É muito interessante quando se diz que o AlphaGo bateu o Kasparov no xadrez. Aqueles algoritmos receberam as regras do jogo e os dados apenas mostravam sequências de como essas regras se aplicavam. Mas ninguém aprende as regras de xadrez a observar uma partida, porque senão sai tudo mal. Sai, por exemplo, que o peão só pode avançar duas casas à frente na primeira jogada. E não é verdade.

Enquanto não tivermos sistemas de IA capazes de usar regras, princípios, abstrações e dados em conjunto, estamos mal.”

Há quem diga que transparência e desempenho são um trade-off, que uma IA mais explicável é necessariamente menos poderosa. É uma justificação conveniente da indústria?

“Nós somos criaturas que aceitam coisas que não percebem. Do ponto de vista das empresas, com grandes decisões, depende muito do nível de risco. Se é um risco de mandar um anúncio para casa ou um e-mail a apresentar um novo produto, não faz diferença. Se é um risco de conceder ou não um empréstimo, aí já é diferente.

Não sabemos porque é que o Waze nos manda por aquele caminho, entramos num avião sem saber como funciona, usamos uma máquina de lavar sem perceber como lava. Sabemos que alguém sabe, mas não sabemos dizer como é que a máquina lava e continuamos a pôr a roupa lá dentro. O que acontece é que a roupa sai lavada e é assim que se constrói confiança.

No futuro, não haverá transparência nem explicabilidade propriamente ditas. Em termos gerais, talvez alguém perceba o que fizeram os modelos e os dados que inseriram. Mas todas as pessoas são responsáveis por ganhar confiança.”

Pessoas com atitudes mais positivas em relação à IA tendem a tomar piores decisões quando assistidas pela IA, porque confiam demasiado…

“É tentador e perigoso nas áreas em que não se sabe. Estas máquinas são probabilísticas e não têm a verdade. As pessoas têm de se habituar a perguntar coisas que já sabem, como qual é a capital de Portugal, por exemplo. Se de vez em quando a resposta for Madrid, fica-se com uma certa dúvida sobre o que está certo. Mas se não usarmos a IA em temas que conhecemos, é mais perigoso porque depois acreditamos cegamente em tudo. Daí a importância de incluir a inteligência artificial na educação: para que as pessoas se habituem a ser mais críticas, a fazer mais perguntas e a perceber como é que aquela informação foi gerada.”

Onde está o limite do que se pode delegar a agentes autónomos?

“Não há limite. Agora, evidentemente que o trabalho de carpintaria, atualmente, por muito que se peça à IA para o fazer, não tem, digamos, a parte física, não é? O nível de complexidade dos problemas que nós, humanos, resolvemos é muito grande. Mas o segredo é saber as coisas que se podem delegar, coisas muito simples, como responder a um e-mail com um obrigado, e as coisas muito mais complicadas, como avaliar uma situação de risco e decidir que ações tomar.

Deixe-me dar um exemplo. Fiz futebol de robôs desde 1997, 1998, e no primeiro ano a nossa única estratégia era ir à bola e atirar à baliza. O agente não via onde estavam os outros, batia neles ao andar, não evitava obstáculos. Era só ir para a bola e atirar. Vinte anos depois, os robôs já fazem planeamento de passes e modelização do adversário. Mas o que foi bonito foi nunca termos parado de ter uma solução simples desde o dia um. Se tivéssemos dito que não se podia jogar futebol de robôs enquanto não soubessem tudo, nunca tínhamos feito nada. Nas empresas há uma tendência para falar só das coisas difíceis. E eu acho que a tendência tem de ser falar das coisas fáceis e ir fazendo aos poucos, porque levantar constantemente os problemas difíceis leva a que nada se faça.”

E como vê o futuro da colaboração entre humanos e agentes?

“Eventualmente, os humanos, quer queiram quer não, vão fazer cada vez menos. Vejo isto como uma aprendizagem contínua [da IA]. Não é mais dados e mais dados. É experiência. Enquanto não tivermos sistemas de inteligência artificial que melhoram com a experiência, ainda não estamos lá. Os agentes têm de melhorar com a experiência. Hoje, o ChatGPT, o Claude e o Gemini já se lembram das nossas preferências e já estão a melhorar a interação connosco ao longo do tempo. Mas ainda estão longe de captar como se tomam decisões.”

__

A sua newsletter de sempre, agora ainda mais útil

Com o lançamento da nova marca de informação 24notícias, estamos a mudar a plataforma de newsletters, aproveitando para reforçar a informação que os leitores mais valorizam: a que lhes é útil, ajuda a tomar decisões e a entender o mundo.

Assine a nova newsletter do 24notícias aqui.