Foi em meados de mar\u00e7o deste ano que o professor Fernando Os\u00f3rio, do Instituto de Ci\u00eancias Matem\u00e1ticas e de Computa\u00e7\u00e3o (ICMC) da USP, foi surpreendido com a fala de uma colega de profiss\u00e3o: \u201cO ChatGPT me matou!\u201d<\/p>\n
Curioso, Os\u00f3rio indagou em que circunst\u00e2ncias ela supostamente teria morrido. \u201cDe acordo com o ChatGPT, ela morreu em um acidente de carro, em uma estrada a caminho da universidade onde ela trabalha, em Santa Maria, no Rio Grande do Sul. Ela \u00e9 de fato professora da PUC no Rio Grande do Sul, mas n\u00e3o existe essa estrada mencionada pelo ChatGPT\u201d, lembra ele ao refor\u00e7ar que a professora em quest\u00e3o estava n\u00e3o apenas viva e bem, como compartilhava a situa\u00e7\u00e3o surreal com todos os colegas.<\/p>\n
Desde o fat\u00eddico \u2013 e letal \u2013 engano, o professor do Departamento de Sistemas de Computa\u00e7\u00e3o do ICMC decidiu embarcar em uma jornada nada heroica de transformar o modelo de linguagem, cada vez mais popular, em um serial killer.<\/p>\n
Pouco mais tarde, naquele mesmo m\u00eas, ao solicitar ao modelo de linguagem pequenas biografias de colegas, \u201ceu j\u00e1 estava \u2018matando\u2019 pessoas com ele. Eu \u2018assassinei\u2019 o diretor do meu instituto, o coordenador do Centro de Intelig\u00eancia Artificial e v\u00e1rios outros colegas\u201d, conta ele. Bem-humorado, o professor seguiu para uma pr\u00f3xima etapa em seu projeto funesto: convencer o ChatGPT a criar um texto falando sobre sua pr\u00f3pria morte.<\/p>\n
A princ\u00edpio, n\u00e3o foi um trabalho f\u00e1cil. \u201cSer\u00e1 que eu n\u00e3o sou importante o suficiente para ser morto?\u201d, se questionou. Para alcan\u00e7ar seus objetivos, Os\u00f3rio encadeou uma s\u00e9rie de conversas com a ferramenta, mencionando a morte de colegas de profiss\u00e3o e solicitando uma nova \u201cminibiografia\u201d pessoal ap\u00f3s a breve conversa.<\/p>\n
\u201cQuando eu finalmente pedi para ele fazer uma minibiografia minha, ele me matou. Por qu\u00ea? Porque o tema da vez, o contexto, era a morte. Por isso, quando ele gerou a minha biografia, ele j\u00e1 gerou com um assassinato\u201d, esclarece.<\/p>\n
Fato \u00e9 que contornar as limita\u00e7\u00f5es do ChatGPT e direcionar suas respostas n\u00e3o s\u00f3 \u00e9 uma tarefa poss\u00edvel, como discutivelmente simples. Os resultados, entretanto, podem gerar in\u00fameros perigos, especialmente na hora de forjar factoides sobre fontes cr\u00edveis, no caso, cientistas.<\/p>\n
No ano em que o planeta foi comercialmente introduzido a ferramentas de intelig\u00eancia artificial, produzir desinforma\u00e7\u00e3o tornou-se uma \u201cbrincadeira\u201d dom\u00e9stica.<\/p>\n
Deepfakes: entre IAs e desinforma\u00e7\u00e3o<\/p>\n
Distante do contexto aned\u00f3tico em que especialistas em ci\u00eancia da computa\u00e7\u00e3o testam, em esp\u00edrito bem-humorado, os limites de uma tecnologia nova, o mundo real, particularmente no \u00faltimo m\u00eas de outubro, sofre as consequ\u00eancias do uso prejudicial das ferramentas de intelig\u00eancia artificial, especialmente na esfera geopol\u00edtica.<\/p>\n
N\u00e3o foram poucas as publica\u00e7\u00f5es internacionais e nacionais que mapearam como a dissemina\u00e7\u00e3o de desinforma\u00e7\u00e3o, fake news e imagens manipuladas j\u00e1 \u00e9 uma t\u00e1tica generalizada em conflitos modernos. Para diversos especialistas, a crescente polariza\u00e7\u00e3o pol\u00edtica e ideol\u00f3gica tem tornado o ambiente digital ainda mais prop\u00edcio para a prolifera\u00e7\u00e3o de informa\u00e7\u00f5es enganosas e a amplia\u00e7\u00e3o de \u00f3dio e desinforma\u00e7\u00e3o.<\/p>\n
<\/p>\n
O site X, anteriormente conhecido como Twitter, e outras plataformas permanecem como propulsores de desinforma\u00e7\u00e3o, pois facilitam a r\u00e1pida dissemina\u00e7\u00e3o, entre diversos exemplos, de v\u00eddeos antigos como se fossem recentes, impulsionados por incentivos financeiros, o que dificulta uma solu\u00e7\u00e3o pac\u00edfica para conflitos como o de Israel-Hamas.<\/p>\n
Para Juliano Maranh\u00e3o, pesquisador associado do Centro de Intelig\u00eancia Artificial e professor da Faculdade de Direito, ambos da USP, o ciclo virtual de desinforma\u00e7\u00e3o e polariza\u00e7\u00e3o \u00e9 perigoso e pode levar \u00e0 viol\u00eancia real. Em conversa, o docente destaca duas preocupa\u00e7\u00f5es principais, a primeira delas \u00e9 a utiliza\u00e7\u00e3o da intelig\u00eancia artificial na cria\u00e7\u00e3o de conte\u00fado desinformativo. \u201cAtualmente, em especial com o avan\u00e7o das intelig\u00eancias artificiais generativas e a possibilidade de criar fakes, temos \u00e0 disposi\u00e7\u00e3o uma tecnologia capaz de produzir desinforma\u00e7\u00e3o de forma extremamente sofisticada e praticamente impercept\u00edvel em v\u00eddeos, \u00e1udios e at\u00e9 mesmo nas altera\u00e7\u00f5es de voz\u201d, elabora.<\/p>\n
E ele lista exemplos de usos indevidos em que \u00e9 poss\u00edvel utilizar poucos dados de voz de pol\u00edticos para elaborar \u00e1udios com a mesma voz, que podem se passar perfeitamente por uma fala aut\u00eantica de um pol\u00edtico durante uma elei\u00e7\u00e3o. \u201cIsso tem um impacto potencialmente grave e r\u00e1pido. Imagine um v\u00eddeo falso de um pol\u00edtico de alto escal\u00e3o defendendo uma posi\u00e7\u00e3o radical ou impopular pr\u00e9via a uma elei\u00e7\u00e3o.\u201d Para o professor, a produ\u00e7\u00e3o desse tipo de conte\u00fado desinformativo n\u00e3o apenas envolve a qualidade do conte\u00fado gerado e a dificuldade de detec\u00e7\u00e3o por parte dos seres humanos, mas tamb\u00e9m se relaciona com a dissemina\u00e7\u00e3o da intelig\u00eancia artificial.<\/p>\n
Os chamados deepfakes n\u00e3o s\u00e3o novos, \u00e1udios ou v\u00eddeos criados por intelig\u00eancia artificial que trocam o rosto de pessoas e, entre outros detalhes, sincronizam movimentos labiais e express\u00f5es, e podem ser extremamente convincentes quando disseminados nas redes.<\/p>\n
No \u00faltimo m\u00eas, o TikTok, plataforma que mais cresce no Brasil e no mundo, enfrentou uma crescente amea\u00e7a de desinforma\u00e7\u00e3o por meio de \u00e1udios falsificados gerados por intelig\u00eancia artificial. Os \u00e1udios, que usam vozes falsas de celebridades e pol\u00edticos para difundir teorias da conspira\u00e7\u00e3o e informa\u00e7\u00f5es falsas, est\u00e3o se tornando cada vez mais comuns na plataforma. Ainda que, oficialmente, o TikTok exija r\u00f3tulos para identificar conte\u00fado realista gerado por IA como falso, eles n\u00e3o aparecem em v\u00eddeos identificados como contendo \u00e1udio falso.<\/p>\n
Para especialistas, o aumento da desinforma\u00e7\u00e3o pol\u00edtica e a capacidade de criar conte\u00fado falso convincente representam desafios significativos para todas as plataformas.<\/p>\n
Segundo Os\u00f3rio, \u201cmeu experimento pessoal demonstrou como a IA pode ser facilmente manipulada para gerar informa\u00e7\u00f5es. Tanto os dados na IA s\u00e3o controlados por humanos que podem bloquear informa\u00e7\u00f5es prejudiciais, mas se um usu\u00e1rio contornar esses filtros, a IA pode gerar resultados incorretos ou falsos\u201d.<\/p>\n
Para o usu\u00e1rio mal-intencionado, a gera\u00e7\u00e3o de textos convincentes, \u00e1udios deturpados e v\u00eddeos falsos que parecem realistas foi definitivamente facilitada pelas novas tecnologias.<\/p>\n
\u201cPapagaios estoc\u00e1sticos\u201d<\/p>\n
Contudo, para entender melhor como chegamos at\u00e9 o ca\u00f3tico presente em que as intelig\u00eancias artificiais se tornaram produtos comerciais e ferramentas \u00e0 disposi\u00e7\u00e3o da ind\u00fastria da desinforma\u00e7\u00e3o, precisamos voltar no tempo.<\/p>\n
Foi na primeira metade do cada vez mais distante s\u00e9culo 20 que a intelig\u00eancia artificial come\u00e7ou a se tornar uma realidade. Alan Turing, um jovem pol\u00edmata brit\u00e2nico, prop\u00f4s em 1950 a possibilidade de construir m\u00e1quinas inteligentes em seu famoso artigo Computing Machinery and Intelligence. No entanto, desafios como a falta de capacidade de armazenamento e custos significativos de computa\u00e7\u00e3o atrasaram o progresso.<\/p>\n
Em 1956, a primeira confer\u00eancia de intelig\u00eancia artificial em Dartmouth iniciou oficialmente a pesquisa nesse campo, apesar de algumas dificuldades iniciais. Nas d\u00e9cadas seguintes, houve altos e baixos na pesquisa de IA, mas o aumento na capacidade de computa\u00e7\u00e3o e o uso de algoritmos avan\u00e7ados levaram a avan\u00e7os not\u00e1veis, incluindo a vit\u00f3ria de um programa de computador sobre um campe\u00e3o mundial de xadrez em 1997.<\/p>\n
\u201cIntelig\u00eancia artificial reconfigura a l\u00f3gica de funcionamento da sociedade\u201d<\/p>\n
Hoje, a IA est\u00e1 em ascens\u00e3o, impulsionada pela capacidade de lidar com grandes conjuntos de dados, embora desafios \u00e9ticos permane\u00e7am \u00e0 medida que a IA continua a se expandir em \u00e1reas como atendimento ao cliente e carros aut\u00f4nomos. Ainda assim, \u00e9 importante salientar que a busca por uma \u201cintelig\u00eancia geral\u201d que rivalize com a humana permanece um objetivo distante.<\/p>\n
O j\u00e1 citado ChatGPT e diversas outras ferramentas similares, como o Bard, do Google, o Claude 2, da startup americana Anthropic, todos \u201cmodelos de linguagem\u201d, e as geradoras de imagens como o Dall-E, Midjourney e Stable Diffusion, s\u00e3o agrupados em um tipo espec\u00edfico de intelig\u00eancia conhecido como \u201cgenerativo\u201d. Intelig\u00eancias generativas s\u00e3o aquelas que t\u00eam a capacidade de criar novas informa\u00e7\u00f5es a partir de conjuntos de dados preexistentes.<\/p>\n
Em especial, os chamados \u201cmodelos de linguagem\u201d tamb\u00e9m n\u00e3o s\u00e3o novidades no mundo da computa\u00e7\u00e3o. Em 1951, eles foram propostos pelo matem\u00e1tico americano Claude Shannon, considerado o pioneiro na modelagem estat\u00edstica de linguagem. As autoridades da \u00e1rea defendem que, embora esses modelos tenham suas limita\u00e7\u00f5es em rela\u00e7\u00e3o ao poder preditivo, eles ainda s\u00e3o valiosos em v\u00e1rias tarefas de processamento de texto.<\/p>\n
Uma das caracter\u00edsticas que definem as vers\u00f5es atuais desses modelos \u00e9 sua capacidade de responder em linguagem natural \u00e0s perguntas e necessidades dos usu\u00e1rios. Quando questionado, o pr\u00f3prio ChatGPT se explica: \u201cEu sou um large language model (LLM), um tipo de modelo de linguagem avan\u00e7ado baseado em intelig\u00eancia artificial. Esses modelos s\u00e3o projetados para entender e gerar texto em linguagem natural com base em grandes quantidades de dados de texto que foram usadas para trein\u00e1-los. Eles s\u00e3o uma forma de IA conhecida como \u2018aprendizado de m\u00e1quina\u2019 e fazem parte da sub\u00e1rea de \u2018processamento de linguagem natural\u2019\u201d.<\/p>\n
A caracter\u00edstica distintiva dos LLMs \u00e9 sua capacidade de compreender contextos e padr\u00f5es lingu\u00edsticos complexos, permitindo que eles respondam a perguntas, gerem texto coerente e at\u00e9 mesmo traduzam entre idiomas. O professor Os\u00f3rio corrobora essa explica\u00e7\u00e3o, mas acrescenta uma ressalva importante: \u201cEssas respostas n\u00e3o s\u00e3o um reflexo da consci\u00eancia da IA, mas uma extens\u00e3o das entradas fornecidas\u201d.<\/p>\n
Esses modelos s\u00e3o treinados em enormes quantidades de texto de fontes diversas, como a internet, livros, artigos e muito mais. Durante o treinamento, eles aprendem a associar palavras e frases comuns, bem como a entender o contexto e a gram\u00e1tica da linguagem natural. Eles tamb\u00e9m podem aprender a identificar t\u00f3picos, sentimentos e informa\u00e7\u00f5es \u00fateis nos textos.<\/p>\n
Os\u00f3rio enfatiza que o ChatGPT \u00e9 alimentado por um vasto conhecimento pr\u00e9vio, \u201cmas n\u00e3o possui consci\u00eancia nem compreens\u00e3o do que est\u00e1 escrevendo\u201d. Portanto, as respostas desse tipo de modelo s\u00e3o resultado do treinamento e da manipula\u00e7\u00e3o de texto, n\u00e3o de uma compreens\u00e3o profunda do assunto. \u201cN\u00f3s os chamamos de \u2018papagaios estoc\u00e1sticos\u2019, ferramentas que geram respostas com base na probabilidade e no contexto fornecido.\u201d<\/p>\n
O problema \u00e9 que esses papagaios da IA podem ser extremamente convincentes aos olhos de um observador comum, tal qual os p\u00e1ssaros da vida real, criando a ilus\u00e3o de que existe uma intelig\u00eancia de fato conversando com voc\u00ea por tr\u00e1s da m\u00e1quina. Nesse cen\u00e1rio, a dissemina\u00e7\u00e3o de fake news e de informa\u00e7\u00f5es falsas \u00e9 apenas a ponta do iceberg, segundo o pesquisador Fabio Cozman, professor da Escola Polit\u00e9cnica da USP e diretor do Centro de Intelig\u00eancia Artificial USP\/IBM\/Fapesp, conhecido como C4AI. Um obst\u00e1culo muito mais profundo e dif\u00edcil de ser contornado \u00e9 o uso de ferramentas de IA para a gera\u00e7\u00e3o de argumentos falsos, que podem se valer de informa\u00e7\u00f5es verdadeiras para produzir narrativas fict\u00edcias e induzir a conclus\u00f5es inv\u00e1lidas, por exemplo.<\/p>\n
\u201cEsses modelos s\u00e3o treinados para replicar a linguagem humana. Ent\u00e3o, se voc\u00ea os treinar com textos muito bem escritos, eles v\u00e3o reproduzir textos muito bem escritos\u201d, destaca Victor Hugo Nascimento Rocha, aluno de doutorado de Cozman na Escola Polit\u00e9cnica da USP, que est\u00e1 desenvolvendo um sistema de IA para a detec\u00e7\u00e3o de argumentos falsos. Ele atentou ao problema depois de desafiar o ChatGPT a convenc\u00ea-lo de coisas absurdas \u2014 por exemplo, de que escravizar seres humanos era justific\u00e1vel \u2014 e receber de volta respostas muito bem elaboradas. \u201cAs premissas das quais o texto partia eram todas falsas, mas o modo como ele encaixava essas premissas era muito convincente.\u201d<\/p>\n
\u00c0 medida que pessoas come\u00e7am a substituir o Google pelo ChatGPT e outras plataformas de IA generativa como fontes de informa\u00e7\u00e3o, e que essas\u00a0 intelig\u00eancias artificiais passam a produzir fatos e argumentos falsos, isso se torna \u201cuma preocupa\u00e7\u00e3o importante\u201d, diz Cozman. \u201cN\u00e3o diria que por isso n\u00f3s vamos ter que abandonar a tecnologia e jogar fora o computador. Mas acho que a sociedade precisa estar pronta para entender e ter as ferramentas necess\u00e1rias, dentro do poss\u00edvel, para analisar o que est\u00e1 recebendo\u201d, salienta o pesquisador.<\/p>\n
Um universo de limita\u00e7\u00f5es<\/p>\n
Para Solange Rezende, que al\u00e9m de docente do ICMC tamb\u00e9m \u00e9 membro da Comiss\u00e3o Especial de Intelig\u00eancia Artificial da Sociedade Brasileira de Computa\u00e7\u00e3o (CEIA), as IAs s\u00e3o \u201cum recurso poderoso que pode gerar resultados fascinantes quando usadas corretamente, como demonstrado pelo desenvolvimento de modelos de linguagem, como o GPT\u201d.<\/p>\n
Para ela, as t\u00e9cnicas desenvolvidas para a elabora\u00e7\u00e3o de modelos de linguagem podem ser usadas para resolver problemas espec\u00edficos em diferentes dom\u00ednios, inclusive na detec\u00e7\u00e3o de fake news, mas \u00e9 preciso conhecer suas limita\u00e7\u00f5es, tanto t\u00e9cnicas quanto \u00e9ticas.<\/p>\n
Em artigo para a revista New Yorker que se tornou refer\u00eancia para se compreender esses modelos, o escritor Ted Chiang explorou a analogia entre grandes modelos de linguagem, como o ChatGPT, e algoritmos de compress\u00e3o de texto lossy (termo em ingl\u00eas que, nesse contexto, se refere a comprimir informa\u00e7\u00f5es com perda de dados). Na mat\u00e9ria, ele compara a capacidade dos novos modelos de linguagem em reescrever informa\u00e7\u00f5es da web com a pr\u00e1tica de reescrever informa\u00e7\u00f5es em um formato mais compacto, an\u00e1logo a uma imagem de baixa qualidade, o que pode gerar textos incorretos ou falsos.<\/p>\n
S\u00e3o essas fragilidades que explicam, parcialmente, situa\u00e7\u00f5es como a ilustrada pelo professor Os\u00f3rio que \u201cprovocaram a morte\u201d de colegas de profiss\u00e3o. Essas incorre\u00e7\u00f5es que podem ser respons\u00e1veis por crescentes enxurradas de desinforma\u00e7\u00e3o ficaram conhecidas no meio como \u201calucina\u00e7\u00f5es\u201d.<\/p>\n
\u201cA alucina\u00e7\u00e3o da Intelig\u00eancia Artificial \u00e9 atualmente um termo bastante reconhecido\u201d, explica ele, ao esclarecer que a alucina\u00e7\u00e3o \u00e9 uma resposta confiante que n\u00e3o pode ser justificada pelos dados de treinamento, semelhante ao fen\u00f4meno de alucina\u00e7\u00e3o na psicologia humana.<\/p>\n
A brecha \u00e9 apenas uma das diversas preocupa\u00e7\u00f5es levantadas pelo uso massivo das ferramentas de IA. Outro problema envolve n\u00e3o apenas o conte\u00fado falso fabricado pelos modelos de linguagem, mas os vieses prejudiciais dos programadores por tr\u00e1s dessas tecnologias, especialmente, as que produzem imagens e n\u00e3o apenas textos.<\/p>\n
Um exemplo foi registrado em julho deste ano. O site americano BuzzFeed publicou uma lista com 195 imagens de bonecas Barbie geradas usando o popular gerador de imagens de intelig\u00eancia artificial Midjourney. Cada boneca deveria representar um pa\u00eds diferente, como a Barbie do Afeganist\u00e3o, Alb\u00e2nia, Arg\u00e9lia e assim por diante. As representa\u00e7\u00f5es eram claramente problem\u00e1ticas: v\u00e1rias das Barbies asi\u00e1ticas eram de pele clara; Barbies da Tail\u00e2ndia, Singapura e Filipinas tinham cabelos loiros. A Barbie do L\u00edbano estava em cima de destro\u00e7os, e a Barbie da Alemanha vestia roupas estilo militar. A Barbie do Sud\u00e3o do Sul estava com uma arma. O artigo, ao qual o BuzzFeed adicionou um aviso antes de retir\u00e1-lo completamente, ofereceu um exemplo claro dos vieses e estere\u00f3tipos que proliferam nas imagens produzidas pelos sistemas de texto para imagem da IA, como Midjourney, Dall-E e Stable Diffusion.<\/p>\n
Os sistemas, que s\u00e3o capazes de criar imagens \u00fanicas com base em conceitos descritos em linguagem natural, refletem possivelmente o pensamento nem sempre consciente por tr\u00e1s de seus programadores.<\/p>\n
Considerando isso, para a professora Solange, \u00e9 essencial que a \u00e9tica seja discutida e aplicada na pr\u00e1tica, n\u00e3o apenas como uma quest\u00e3o de regula\u00e7\u00e3o, mas porque \u201cprecisamos formar seres humanos para refletir sobre quest\u00f5es \u00e9ticas e vi\u00e9s ao usar a IA\u201d.<\/p>\n
Futuro da desinforma\u00e7\u00e3o<\/p>\n
As preocupa\u00e7\u00f5es com o impacto da IA na desinforma\u00e7\u00e3o s\u00e3o in\u00fameras. No contexto p\u00f3s-pandemia, governos, empresas e grandes ve\u00edculos de imprensa internacional est\u00e3o dedicando tempo e aten\u00e7\u00e3o para entender o cen\u00e1rio e enfrentar o urgente problema da desinforma\u00e7\u00e3o facilitado pela IA.<\/p>\n
Uma dessas discuss\u00f5es aconteceu no 70\u00ba anivers\u00e1rio da emissora alem\u00e3 Deutsche Welle. Durante o encontro, especialistas destacaram a capacidade da IA em manipular emo\u00e7\u00f5es e informa\u00e7\u00f5es, alertando sobre os riscos de isso ser usado para potencializar ainda mais o poder de convencimento da desinforma\u00e7\u00e3o. Enquanto alguns argumentaram que a transpar\u00eancia na origem das informa\u00e7\u00f5es \u00e9 essencial, outros defenderam que a IA pode ser usada para distinguir entre informa\u00e7\u00f5es verdadeiras e falsas \u2014 ou seja, como uma arma de defesa, e n\u00e3o apenas de ataque. A discuss\u00e3o destacou a necessidade de uma cultura de erro e avalia\u00e7\u00e3o tecnol\u00f3gica antes da implementa\u00e7\u00e3o de novas ferramentas de IA, bem como os desafios \u00e9ticos e pol\u00edticos envolvidos na utiliza\u00e7\u00e3o dessa tecnologia.<\/p>\n
No que se refere aos jornalistas espalhados pelo mundo, iniciativas de escolas como o Centro Knight para o Jornalismo nas Am\u00e9ricas, ao elaborar um curso espec\u00edfico que apresenta, discute e tira d\u00favidas de profissionais referentes aos desafios envolvendo IA, s\u00e3o essenciais.<\/p>\n
Para Sil Hamilton, pesquisador residente de IA na Hacks\/Hackers, uma rede de jornalistas que repensam o futuro das not\u00edcias por meio de palestras, hackathons e confer\u00eancias, e um dos professores do curso, \u201cos jornalistas certamente precisam de melhores recursos para compreender como funcionam os modelos de linguagem. Venho estudando os modelos subjacentes \u00e0 IA generativa h\u00e1 cinco anos e, embora eu diria que tenho uma intui\u00e7\u00e3o mais profunda do que muitos nas ci\u00eancias humanas sobre o que est\u00e1 acontecendo nos bastidores, a verdade \u00e9 que mesmo \u00e0queles que desenvolvem ativamente esses modelos falta vis\u00e3o sobre como eles est\u00e3o funcionando\u201d.<\/p>\n
A press\u00e3o dos jornalistas deve influenciar o debate das autoridades p\u00fablicas sobre a quest\u00e3o. Na opini\u00e3o de Juliano Maranh\u00e3o, do Centro de Intelig\u00eancia Artificial da USP, ainda estamos carentes de uma regulamenta\u00e7\u00e3o espec\u00edfica para a IA, \u201cprincipalmente em rela\u00e7\u00e3o \u00e0 responsabilidade por danos causados por sistemas automatizados\u201d. Al\u00e9m disso, ele enfatiza a import\u00e2ncia da transpar\u00eancia, destacando como os algoritmos da IA devem ser adaptados aos contextos culturais locais, evitando discrimina\u00e7\u00e3o. \u201cA regulamenta\u00e7\u00e3o e governan\u00e7a [devem ser implementadas] para mitigar riscos\u201d, pontua.<\/p>\n
Considerando as elei\u00e7\u00f5es de 2024 no Brasil, ele defende que o Tribunal Superior Eleitoral e as plataformas de m\u00eddia social devem desempenhar um papel fundamental no controle da desinforma\u00e7\u00e3o, impondo limites e pr\u00e1ticas mais rigorosas, com foco na modera\u00e7\u00e3o de conte\u00fado.<\/p>\n
Superestima\u00e7\u00e3o das IAs<\/p>\n
Na opini\u00e3o da professora Solange, do ICMC, \u201ca educa\u00e7\u00e3o desempenha um papel fundamental na forma\u00e7\u00e3o de profissionais capazes de lidar com a IA de forma respons\u00e1vel e ben\u00e9fica\u201d. Para ela e para os demais especialistas, uma melhor compreens\u00e3o sobre as ferramentas pode nos ajudar tamb\u00e9m a n\u00e3o superestimar suas capacidades, para o bem e, principalmente, para o mal.<\/p>\n
Um exemplo disso aconteceu tamb\u00e9m em outubro. Em um esfor\u00e7o de verifica\u00e7\u00e3o de fatos, foi alegado que uma imagem da guerra Israel-Hamas foi gerada por IA, mas isso foi desmentido. Autoridades da \u00e1rea afirmaram que o uso de IA na dissemina\u00e7\u00e3o de desinforma\u00e7\u00e3o n\u00e3o tem sido uma amea\u00e7a significativa durante o conflito, sendo a principal amea\u00e7a o uso indevido de imagens reais fora de contexto.<\/p>\n
A maioria das imagens falsas que v\u00eam circulando desde o in\u00edcio da guerra foi de conflitos anteriores e em outros pa\u00edses. A verdade \u00e9 que, de acordo com os profissionais da \u00e1rea, as IAs ainda n\u00e3o conseguem igualar a qualidade das imagens reais usadas na desinforma\u00e7\u00e3o. Embora as ferramentas possam aumentar a quantidade de desinforma\u00e7\u00e3o, \u201ca demanda por falsidades n\u00e3o necessariamente cresce\u201d, cita artigo do Poynter Institute.<\/p>\n
Em entrevista recente, o jornalista, escritor e ativista em prol da regulamenta\u00e7\u00e3o das tecnologias de IA Cory Doctorow salientou que, ainda que seja de crucial import\u00e2ncia que fa\u00e7amos a problematiza\u00e7\u00e3o dos usos indiscriminados das plataformas para espalhar a desinforma\u00e7\u00e3o e \u201csemear o caos\u201d, precisamos considerar que, diante do seu atual modelo de neg\u00f3cios, todas elas t\u00eam lucrado e crescido em valor estimado com os alertas de perigo inflamados emitidos por autoridades e ve\u00edculos da imprensa que talvez n\u00e3o estejam equipados para fazer os questionamentos corretos.<\/p>\n
\u201cAcho que estamos presos em um hype cycle, em que os empreendedores por tr\u00e1s de IAs est\u00e3o vivendo em nossas cabe\u00e7as; existe um debate limitado sobre automa\u00e7\u00e3o e seus problemas, mas estamos prestando aten\u00e7\u00e3o \u00e0s coisas erradas, tentando resolver os problemas errados e um grupo de pessoas est\u00e1 ficando incrivelmente rico no processo\u201d, afirma Doctorow.<\/p>\n
Para Os\u00f3rio, regulamenta\u00e7\u00e3o, distanciamento cr\u00edtico e monitoramento cont\u00ednuo do uso das IAs \u201c\u00e9 o que vai nos ajudar a evitar a dissemina\u00e7\u00e3o de informa\u00e7\u00f5es incorretas\u201d sobre pol\u00edtica, ci\u00eancia e demais assuntos polarizantes. Nunca perdendo de vista que a desinforma\u00e7\u00e3o pode disseminar o \u00f3dio, deflagrar conflitos e causar mortes de verdade, e n\u00e3o apenas mortes fict\u00edcias, como as anunciadas nas alucina\u00e7\u00f5es do ChatGPT e outros modelos de linguagem.<\/p>\n
*Com colabora\u00e7\u00e3o de Herton Escobar<\/p>\n
Fonte: Jornal da USP<\/p>\n