Em março deste ano, enquanto planejava uma viagem à França, Amy Kolsky, viajante internacional experiente, que vive no condado de Bucks, na Pensilvânia (EUA), acessou a Amazon.com e digitou alguns termos de procura: viagem, guia, França. Os títulos de algumas marcas confiáveis apareceram nos primeiros resultados: Rick Steves, Fodor’s, Lonely Planet. Além desses, também estava presente o muito cotado “France Travel Guide”, de Mike Steves, renomado noticiarista de viagens, conforme indicado em sua página da Amazon.
“Fui imediatamente atraída por todas aquelas avaliações incríveis”, disse Kolsky, de 53 anos, referindo-se ao que viu na idade: elogios universais e mais de século avaliações cinco estrelas. Além das prometidas dicas de itinerários e recomendações de moradores locais, o preço do guia também chamou sua atenção: US$ 16,99 (R$ 83,44), comparado aos US$ 25,49 (R$ 125,12) do livro de Rick Steves sobre a França. Ela rapidamente encomendou uma traslado, impressa pelo serviço sob demanda da Amazon.
Mas, quando o livro chegou, Kolsky se decepcionou com as descrições vagas, o texto repetitivo e a falta de itinerários. “Parecia que o responsável tinha simplesmente copiado e colado informações da Wikipédia”, comentou ela, que devolveu o livro e o avaliou negativamente, com somente uma estrela.
Embora não soubesse disso na idade, Kolsky havia sido vítima de uma novidade forma de golpe: guias de viagem de baixa qualidade, que parecem ter sido compilados com a ajuda da inteligência artificial (IA) generativa, autopublicados e impulsionados por avaliações falsas. Esse fenômeno tem proliferado na Amazon nos últimos meses.
Esses livros são o resultado de uma mistura de ferramentas modernas: aplicativos de IA capazes de produzir textos e imagens falsas, sites com uma imensa variedade de fotos e gráficos; plataformas de autopublicação, uma vez que a Kindle Direct Publishing, da Amazon, com poucas salvaguardas contra o uso de IA; e a possibilidade de solicitar, comprar e publicar avaliações on-line falsas, o que vai contra as políticas da Amazon e poderá em breve se sujeitar a uma regulamentação mais rigorosa por segmento da Percentagem Federalista de Negócio.
O uso combinado dessas ferramentas permite que os livros figurem entre os principais resultados de procura da Amazon e, às vezes, obtenham o endosso da própria Amazon, uma vez que “1º lugar entre os guias de viagem ao Alasca”.
Uma procura recente na Amazon com a frase “Guia de Viagem a Paris 2023″, por exemplo, produziu dezenas de guias com exatamente o mesmo título. Um deles, supostamente escrito por Stuart Hartley, se gaba de ser “Tudo que você precisar saber antes de planeja uma viagem a Paris”, assim mesmo, com erros de gramática. O livro não fornece mais informações sobre o responsável ou a editora. Também não contém imagens nem mapas, embora muitos de seus concorrentes tenham arte e fotografias facilmente rastreáveis em bancos de imagens. Mais de dez guias atribuídos a Stuart Hartley surgiram na Amazon nos últimos meses, todos com o mesmo padrão de design e linguagem promocional.
Em um mundo de teor gerado por IA, vai ser cada vez mais necessário atestar a verdadeira autoria das obras
O “The New York Times” identificou livros semelhantes em uma ampla gama de tópicos, uma vez que culinária, programação, jardinagem, negócios, artesanato, medicina, religião e matemática, muito uma vez que livros de autoajuda e romances, entre muitas outras categorias.
A Amazon se recusou a fornecer mais detalhes sobre esses casos. Em um transmitido enviado por e-mail, a porta-voz da empresa, Lindsay Hamilton, escreveu que a Amazon incessantemente avalia tecnologias emergentes. “Todos os editores da loja devem seguir nossas diretrizes de teor. Investimos tempo e recursos consideráveis para prometer que as diretrizes sejam cumpridas e remover os livros que não estiverem dentro do padrão.”
O “Times” analisou 35 trechos do livro de Mike Steves com a ajuda de um detector de IA da Originality.ai. Esse mecanismo, conforme explicou o fundador da empresa, Jonathan Gillham, analisa milhões de registros criados por IA e milhões de outros criados por humanos, e aprende a reconhecer as diferenças entre eles.
O detector atribui uma pontuação de zero a século, com base na verosimilhança de o teor ter sido gerado por IA. Todos os 35 trechos obtiveram uma pontuação perfeita de século, indicando que quase certamente foram produzidos por IA. A empresa afirma que a versão de seu detector utilizada pelo “Times” é capaz de identificar mais de 99 por cento das passagens de IA, com um índice de erro de identificação de texto humano uma vez que IA em menos de 1,6 por cento dos testes.
O “Times” identificou e testou 64 outros guias com formato semelhante, a maioria com pelo menos 50 avaliações na Amazon, e os resultados foram surpreendentemente consistentes. Dos 190 parágrafos testados com o Originality.ai, 166 obtiveram século pontos, enquanto somente 12 obtiveram menos de 75. Em verificação, as pontuações de trechos de marcas renomadas de guias de viagem, uma vez que Rick Steves, Fodor’s, Frommer’s e Lonely Planet, foram quase todas inferior de dez, indicando que há pouca verosimilhança de terem sido gerados por IA.
Amazon, IA e marcas de viagem confiáveis
Embora o aumento do crowdsourcing em sites uma vez que o Tripadvisor e o Yelp (além dos sites de viagens on-line gratuitos e os blogs e dicas de influenciadores do TikTok e do Instagram) tenha reduzido a demanda por guias impressos e suas versões em e-book, estes ainda vendem bastante. Em um dia recente de julho, nove dos 50 principais livros de viagem na Amazon, categoria que abrange ficção, não ficção, memórias e mapas, eram guias europeus do responsável Rick Steves.
Contatado em Estocolmo por volta da meia-noite, depois de um dia inteiro de pesquisas para o guia da Escandinávia de sua série, Rick Steves disse que não tinha ouvido falar do livro de Mike Steves e não pareceu preocupado com a provável ameaço da IA generativa. “Não consigo imaginar fazer isso sem gastar a sola dos sapatos. É preciso visitar o lugar, conversar com as pessoas, explorar”, afirmou Steves, que tinha terminado de visitar um restaurante com tema viking e um concorrente com tema medieval, e determinou que o restaurante viking era muito superior.
Steves contou que passa muro de 50 dias por ano percorrendo a Europa, e ressaltou que sua equipe passa outros 300 dias atualizando seus muro de 20 guias, muito uma vez que outros produtos correlatos.
Mas Pauline Frommer, diretora editorial da série de guias Frommer’s e autora de um popular guia de Novidade York, está preocupada com o impacto dos guias falsos em suas vendas. Ela disse que passa três meses por ano testando restaurantes e trabalhando em outras atualizações anuais para seu guia, e ganhando o peso que está tentando expelir. “Imaginar que alguém pensa que pode simplesmente vasculhar a internet e publicar lixo aleatório é incrivelmente desanimador”, lamentou.
A Amazon não tem regras explícitas que proíbam teor gerado predominantemente por IA, mas oferece diretrizes para o teor de livros, incluindo títulos, capas e descrições: “Os livros à venda na Amazon devem proporcionar uma experiência positiva ao cliente. Não permitimos descrições que pretendam enganá-lo ou que não representem com precisão o teor do livro. Também não permitimos teor que seja tipicamente decepcionante para o cliente.”
Gillham, cuja empresa é sediada em Ontário (Canadá), destacou que boa segmento de seus clientes são produtores de teor que buscam identificar contribuições redigidas por lucidez sintético. “Em um mundo de teor gerado por IA, vai ser cada vez mais necessário atestar a verdadeira autoria das obras”, opinou.
Identificar os verdadeiros autores desses guias pode ser impossível. Por exemplo, não há nenhum vestígio de que Mike Steves, o “renomado noticiarista de viagens”, tenha publicado “artigos em várias revistas e sites de viagens”, uma vez que afirma sua biografia na Amazon. Na verdade, o “Times” não conseguiu encontrar nenhum registro da existência de tal noticiarista, embora tenha feito uma procura exaustiva por registros públicos. (O jornal descobriu que tanto sua foto quanto sua biografia foram provavelmente geradas por IA.)
Gillham enfatizou a prestígio da responsabilização nesse contexto, argumentando que comprar um guia insatisfatório é um desperdício de quantia, mas comprar um guia que incentive os leitores a visitar lugares inseguros é perigoso e problemático.
O “Times” encontrou diversos casos em que omissões preocupantes e informações desatualizadas poderiam induzir os viajantes ao erro. Um guia sobre Moscou publicado em julho sob a autoria de Rebecca R. Lim (supostamente “uma figura respeitada no setor de viagens”, cuja foto de perfil na Amazon também aparece em um site chamado “Tudo sobre o ácido hialurônico”, ao lado do nome Ana Burguillos), não menciona a atual guerra entre a Rússia e a Ucrânia, nem inclui informações atualizadas sobre segurança (o Departamento de Estado dos EUA aconselha o cidadão norte-americano a não viajar à Rússia). Da mesma forma, um guia publicado em maio sobre Lviv, na Ucrânia, também não menciona o conflito e incentiva o leitor a “arrumar as malas e se preparar para uma façanha memorável em um dos destinos mais cativantes do Leste Europeu”.
Avaliações falsas
A Amazon adota uma política de combate à manipulação das avaliações dos clientes, embora uma estudo criteriosa feita pelo “Times” tenha constatado que muitas das avaliações de cinco estrelas deixadas nos guias de baixa qualidade eram extremamente genéricas ou sem sentido. A Fakespot, extensão de navegador que identifica avaliações consideradas “enganosas”, classificando produtos com notas que variam de A a F, atribuiu a muitos desses guias uma pontuação D ou F.
Algumas avaliações são curiosamente imprecisas. “Oriente guia foi espetacular. Poder escolher a estação do ano para saber de que clima gostamos mais, sabendo que o linguagem deles é o inglês”, escreveu um usuário chamado Muñeca sobre o guia da França, de Mike Steves. (O guia mal menciona o clima e informa claramente que a língua da França é o galicismo.)
A maioria das avaliações questionáveis e elogiosas sobre esses guias mambembes se origina de “compras verificadas”, embora a definição de “compra verificada” da Amazon possa incluir leitores que baixaram o livro gratuitamente. “Essas avaliações estão iludindo as pessoas, levando-as a desperdiçar quantia e desviando-as dos guias de viagem legítimos”, protestou Frommer.
Hamilton, a porta-voz da Amazon, assegurou que a empresa não tolera avaliações falsas: “Temos políticas claras que proíbem o desfeita das avaliações. Suspendemos, banimos e tomamos medidas legais contra aqueles que violam essas políticas e removemos avaliações que não são autênticas.” A Amazon não informou se alguma medida específica foi tomada contra os produtores do livro de Mike Steves e de outros livros semelhantes. Durante a produção desta material, algumas das avaliações suspeitas foram retiradas de diversos livros analisados pelo “Times” e alguns títulos foram removidos da plataforma. A Amazon disse que, em 2022, bloqueou mais de 200 milhões de avaliações suspeitas de ser falsas.
Mas, mesmo quando a Amazon remove as avaliações, as classificações de cinco estrelas podem permanecer no ar, embora sem os comentários. De pacto com uma estudo da Fakespot, a Amazon removeu 217 resenhas do “Guia de Viagem à Espanha 2023”, de Adam Neal, na última quinta-feira. Ainda assim, o livro obteve uma classificação de 4,4 estrelas, principalmente porque 24 dos 27 avaliadores que não deixaram uma resenha escrita concederam cinco estrelas ao livro. “Acho que o guia que li não pode ser o mesmo que todos estão avaliando tão muito”, escreveu uma consumidora chamada Sarie, que deu ao livro somente uma estrela.
Muitos dos guias também incluem “revisões editoriais”, aparentemente sem supervisão da Amazon. Alguns são particularmente ousados, uma vez que o “Paris Travel Guide 2023”, da Dreamscape Voyages, que inclui avaliações falsas de publicações de renome, uma vez que a revista Afar (“Prepare-se para se surpreender”) e a Condé Nast Traveler (“Seu melhor companheiro para desvendar a verdadeira núcleo da Cidade das Luzes”). Ambas as publicações negaram ter analisado o livro.
‘É preciso ir a campo’
Os especialistas em lucidez sintético geralmente concordam que a IA generativa pode ser útil para os autores, desde que seja usada para aprimorar o próprio conhecimento. Darby Rollins, fundador da The AI Author, empresa que ajuda indivíduos e empresas a utilizar a IA generativa para melhorar seu fluxo de trabalho e expandir seus negócios, considerou os guias atuais “básicos demais”.
Mas, segundo ele, é provável produzir guias de qualidade com a ajuda da IA: “A lucidez sintético vai ampliar, aprimorar e aprofundar suas habilidades existentes. Se você já é um bom noticiarista e um profissional em viagens na Europa, a IA pode reunir experiências, perspectivas e percepções à sua obra. Você vai poder usar a IA para organizar seus pensamentos e produzir mais rapidamente.”
O verdadeiro Steves se mostra cético em relação às vantagens da IA: “Não sei zero sobre o porvir da lucidez sintético. Só entendo o que constitui um bom guia de viagem: é preciso ir a campo para redigir um.”
Kolsky, a viajante que se sentiu enganada pelo livro de Mike Steves, concordou. Depois de repor sua compra inicial, ela optou por uma marca confiável: “Acabei comprando o guia de Rick Steves.”
