Pulse

Inteligência Artificial: Preocupações Éticas

Existem outras questões sérias sobre como a IA deve ser usada para jogos de azar. Ela é muito poderosa? Poderia criar jogos muito viciantes? Essas são as perguntas levantadas pelo Dr. Kasra Ghaharian, diretor de pesquisa do Instituto Internacional de Jogos da Universidade de Nevada, Las Vegas (UNLV). Ele é um especialista global em jogos, especializado em ambientes online e aplicações de IA, aprendizado de máquina, proteção ao consumidor e modernização de pagamentos. Ele também é um dos autores de um estudo inovador sobre a ética da IA ​​e jogos de azar, publicado em julho de 2024. Conversamos com ele para ouvir sua opinião sobre algumas dessas questões.

Quais são os riscos e desafios potenciais associados à falta de regulamentação e supervisão do uso de IA na indústria de jogos de azar?

Dra. Kasra Ghaharian: Quando falamos em regulamentar a IA no setor de jogos de azar, existem algumas vias diferentes em termos de como poderíamos regulá-la dentro do setor. Mas também há o fato de que regulamentações ou diretrizes de IA estão sendo elaboradas fora do setor. A mais conhecida neste momento é a Lei de IA da UE, que será uma peça legislativa vinculativa à qual os desenvolvedores e implementadores de IA precisam aderir. E o consenso parece ser que a Lei de IA da UE é voltada principalmente para os desenvolvedores de IA, em particular a IA generativa. No entanto, a Lei está muito alinhada com uma estrutura regulatória baseada em setor, na qual reguladores de setores específicos analisarão a Lei de IA da UE e, em seguida, examinarão suas próprias regulamentações setoriais e de produção. Por exemplo, você poderia ver, talvez, o órgão regulador da aviação analisando a Lei de IA da UE para informar suas próprias práticas regulatórias. E certamente poderíamos ver o mesmo acontecendo com o setor de jogos de azar. E se olharmos para a estrutura baseada em risco da Lei de IA da UE, é um tanto quanto mista em termos de onde os jogos de azar se enquadram.

Acredito que a maioria dos casos de uso de jogos de azar provavelmente não se enquadrará nas categorias de alto risco ou uso proibido. Mas quem pode dizer que analisar e rastrear o comportamento de jogo de uma pessoa para criar conteúdo e mensagens altamente direcionados e envolventes, visando alterar o comportamento de uma pessoa em relação a um produto potencialmente prejudicial e viciante, não pode ser classificado como um caso de uso de alto risco ou proibido? Alguém poderia acabar dizendo que esse é um caso de uso de alto risco e precisa ser analisado como tal. Portanto, as partes interessadas definitivamente precisam ficar de olho nisso e se esforçar ao máximo.

No setor de jogos de azar, pelo menos em mercados regulamentados, somos bem regulamentados e existem pilares bastante sólidos em termos de legislação e regulamentação para manter os jogos de azar seguros e justos, além de tentar minimizar os danos associados. Portanto, talvez as regulamentações de jogos de azar existentes sejam suficientes para proteger os consumidores dos perigos e riscos da IA. No entanto, acredito que seja necessária uma supervisão regulatória específica do setor para mitigar os riscos e preocupações, que podem incluir coisas como exploração de jogadores, viés algorítmico, práticas não transparentes por parte dos operadores, coisas que são bastante conhecidas hoje em dia, se você se mantiver atualizado sobre ética e regulamentações de IA.

A outra coisa que eu diria, que pessoalmente considero ser o maior risco para o nosso setor, é a falta de conhecimento em IA. Eu realmente acho que precisamos nos esforçar mais para educar todas as partes interessadas sobre essa tecnologia, para que possamos avançar e nos esforçar para regulá-la. Porque o nível de conhecimento em IA é muito díspar neste momento. Então, acho que, na verdade, para mim, esse é o maior risco de não nos esforçarmos para melhorar o conhecimento em IA entre as partes interessadas do setor.

A IA poderia desenvolver jogos que fossem muito viciantes?

Dra. Kasra Ghaharian: Veja o TikTok. O TikTok está criando conteúdo altamente envolvente. Não conheço o funcionamento interno do TikTok, mas acredito que eles estejam usando coisas como aprendizado de máquina e outros métodos baseados em dados para envolver os usuários o máximo possível, porque esse é o modelo de negócios deles. O mesmo vale para jogos de azar. Envolver os usuários com conteúdo novo e interessante que os atraia faz parte do modelo de negócios. Acho que a indústria de jogos de azar pelo menos tem regulamentações existentes em termos do que você pode mudar na mecânica do jogo e coisas assim. Mas o que acontece se chegarmos a um estágio, o que provavelmente acontecerá em breve, em que o vídeo gerado por IA possa ser gerado em tempo real enquanto você o assiste, o que isso significa para uma máquina caça-níqueis online? Não sei se os reguladores ou as regulamentações existentes falam sobre esse nível de IA generativa avançada. Então, quanto ao seu ponto, acho que é uma preocupação. Não me aprofundei no assunto, mas acho que é uma preocupação legítima.

A IA será capaz de identificar jogadores com problemas de vício em jogos de azar. Existe o risco de que o uso da IA ​​para ajudar em problemas relacionados a jogos de azar seja exagerado?

Dra. Kasra Ghaharian: Acho que há duas coisas que eu provavelmente comentaria aqui. Primeiro, o campo do algoritmo de detecção de risco da IA. Acredito que houve enormes avanços em termos de como essa tecnologia beneficiou a prevenção de danos. Acho que é evidente que ela oferece muitos benefícios e que há muitos produtos fantásticos, e não devemos, de forma alguma, desconsiderar o impacto que esses produtos tiveram. No entanto, é algo complicado de fazer. É muito difícil definir o que é um transtorno de jogo. 

É muito difícil definir isso apenas com dados de rastreamento. E esse é o ponto crucial de toda essa questão, porque não há uma bandeira binária que possamos usar. E é por isso que vimos tantos avanços na geração de imagens e vídeos por IA. Porque temos a internet, que tem um monte de imagens, certo? Então, se quisermos criar uma IA que possa gerar a imagem de uma casa, podemos dizer a ela como é a casa. Não podemos dizer a uma IA baseada no comportamento de rastreamento online como é a aparência de um jogador problemático. Temos uma ideia, mas não sabemos tecnicamente. Então, torna muito desafiador para esses sistemas realmente fazerem seu trabalho. Mas descobrimos maneiras de desenvolver proxies para isso e, pelo menos, criar uma ferramenta de triagem, eu diria.

A IA também é usada para fins comerciais, como marketing, publicidade e geração de conteúdo. Acho que o que eu realmente gostaria de ver é a IA para proteção do consumidor integrada a esses fins comerciais. Então, como quando alguém está criando uma nova campanha publicitária usando IA, talvez haja algo em prática. Talvez cada empresa deva ter um conselho interno de ética em IA, pelo qual todos os projetos devem ser aprovados. Talvez deva haver alguns desenvolvedores técnicos que entendam a parte de proteção do consumidor para que saibam onde os limites devem ser traçados. Ou talvez o elemento de proteção ao jogador deva ser integrado às atividades de marketing. Acho que precisa haver muito mais colaboração entre os departamentos nisso.

Temos conhecimento suficiente para regular a IA em jogos de azar?

Dra. Kasra Ghaharian: Se eu fosse o CEO de uma empresa, provavelmente contrataria um defensor da IA, ou, sabe, o CEO da IA, ou qualquer que seja o título. Acho que essa pessoa precisa liderar a discussão, analisando todas essas questões. Acho que seria um bom primeiro passo. E acho até que os reguladores talvez precisem fazer o mesmo. 

Uma das preocupações comumente expressas em relação à IA é que ela pode levar à perda de outros empregos. Essas preocupações são justificadas?

Dra. Kasra Ghaharian: Em termos de deslocamento de empregos, não acho que seja um problema a ser ignorado. Acho que talvez seja um pouco exagerado. Não acho que estejamos em um estágio em que grandes modelos de linguagem possam substituir programadores. Eles estão se tornando muito, muito, muito sofisticados em um ritmo muito rápido. Acho que seríamos ignorantes se ignorássemos isso. Em termos do setor terrestre, serão necessários avanços massivos na robótica para que ela substitua as funções de recepção e coisas do tipo. É preciso pesquisar a aceitação disso. As pessoas querem um robô distribuindo cartas ou uma pessoa? 

Acredito que minha maior preocupação moral seja com a transparência, e abordarei um caso de uso específico que demonstra o problema mais amplo. Vejamos o caso do uso de IA para detecção de risco em jogos de azar problemáticos. Há uma infinidade de empresas que desenvolveram algoritmos, baseados em dados comportamentais de apostas, que afirmam ser capazes de detectar indivíduos em risco de sofrer danos relacionados a jogos de azar. Não temos ideia de como esses algoritmos funcionam. Não sabemos quão eficazes eles são. 

Também não temos ideia de quanto isso beneficia o consumidor, o que torna muito difícil para os reguladores aplicarem qualquer regulamentação ou diretrizes claras sobre essa prática. Portanto, isso é algo em que trabalharemos nos próximos doze meses: uma referência para esses algoritmos de detecção de risco. A ideia é que tenhamos um conjunto padronizado de conjuntos de dados de referência e qualquer parte interessada possa usar nossa plataforma para testar seu algoritmo, e forneceremos uma classificação do desempenho. Isso já está sendo feito para modelos de linguagem de grande porte. Estamos atualmente conceituando isso e esperamos começar no próximo ano, o que faz parte de uma iniciativa mais ampla de pesquisa em IA no Instituto Internacional de Jogos da UNLV.

Como você acha que a IA afetará, em termos gerais, a indústria de jogos de azar em geral?

Dra. Kasra Ghaharian: Acredito que isso tornará as operações mais eficientes e sofisticadas. Acredito que haverá benefícios para a experiência do consumidor. Temos que lembrar que este é um produto de entretenimento. As pessoas se envolvem com ele por um motivo. E a grande maioria das pessoas se envolve com ele, sabe, dentro de suas possibilidades, e consomem jogos de azar como forma de entretenimento. 

Então, acredito que haverá benefícios para o consumidor nesse aspecto. E acho importante, assim como o trabalho que vocês estão fazendo e a divulgação, para que entendam que há riscos envolvidos. Acho que a mesma conversa provavelmente ocorreu quando a internet surgiu. A internet tornou os jogos de azar mais acessíveis, mais convenientes. Você podia jogar de pijama, na sua sala de estar. Acho que as pessoas começaram a entender isso, e é por isso que vimos avanços em termos de proteção e regulamentação do consumidor. Agora, há regulamentações que abordam especificamente os jogos de azar online. 

Então, espero que a mesma coisa aconteça com a IA, e é importante que mais discussões como as que estamos tendo agora aconteçam.