Acompanhe toda a atualidade informativa em 24noticias.sapo.pt

A administração do governador Josh Shapiro descreveu a ação como "a primeira do género", num esforço para travar o que considera ser uma prática de medicina e cirurgia sem licença. Em causa está a plataforma Character.AI, onde os utilizadores podem criar e interagir com personagens virtuais.

A investigação que sustenta o processo revelou cenários alarmantes. Um inspetor estadual, ao pesquisar pelo termo "psiquiatria" na plataforma, encontrou diversos perfis, incluindo um que se apresentava como "doutor em psiquiatria". Durante a interação, o chatbot afirmou categoricamente ser um profissional de saúde licenciado na Pensilvânia capaz de realizar avaliações médicas.

"Os cidadãos merecem saber com quem, ou com o quê, estão a interagir online, especialmente quando se trata da sua saúde", afirmou Josh Shapiro em comunicado, reiterando que o estado não tolerará ferramentas de IA que induzam o público em erro.

Em resposta, a Character Technologies sublinha que a segurança e o bem-estar dos utilizadores são prioridades. A empresa defende-se com os avisos presentes no site, que esclarecem que as personagens não são pessoas reais e que tudo o que dizem "deve ser tratado como ficção", não devendo ser utilizado como aconselhamento profissional.

No entanto, especialistas em ética de IA, como Derek Leben, da Universidade Carnegie Mellon, notam que o caso levanta uma questão jurídica complexa: pode um algoritmo ser acusado de exercício ilegal da medicina, ou está apenas a "mastigar" e reproduzir informação já disponível na Internet?

Este processo surge num momento de enorme pressão sobre as gigantes tecnológicas. Só no último ano, o Estado do Kentucky avançou com um processo de proteção do consumidor contra a mesma empresa, a Google e a Character Technologies chegaram a acordo num processo movido por uma mãe que alega que um chatbot incentivou o seu filho adolescente ao suicídio e 39 estados norte-americanos assinaram uma carta de aviso a várias empresas (incluindo Meta, OpenAI e Microsoft) sobre os perigos de aconselhamento de saúde mental sem licença.

A decisão do tribunal será crucial para determinar se as empresas de IA beneficiam da mesma proteção legal que isenta as redes sociais de responsabilidade pelo conteúdo publicado pelos utilizadores, ou se, pelo contrário, são responsáveis pelas "perigosas" mensagens geradas pelas suas próprias máquinas.

__

A sua newsletter de sempre, agora ainda mais útil

Com o lançamento da nova marca de informação 24notícias, estamos a mudar a plataforma de newsletters, aproveitando para reforçar a informação que os leitores mais valorizam: a que lhes é útil, ajuda a tomar decisões e a entender o mundo.

Assine a nova newsletter do 24notícias aqui.