- há 5 dias
Categoria
🤖
TecnologiaTranscrição
00:00O chat GPT vai poder gerar conteúdo erótico para adultos verificados a partir do mês de dezembro.
00:10A mudança faz parte de uma política mais ampla da OpenAI que visa tratar usuários adultos como adultos,
00:19flexibilizando restrições consideradas rígidas por alguns usuários.
00:24Como a gente viu no começo do programa, essa é também mais uma maneira da empresa tentar ganhar dinheiro.
00:33E para entender as implicações dessa atitude ousada e polêmica da empresa,
00:39temos hoje o privilégio da visão do doutor Álvaro Machado Dias,
00:45que é professor livre docente da Universidade Federal de São Paulo, em mais uma coluna Olhar do Amanhã.
00:54E vamos então receber o doutor Álvaro Machado Dias aqui ao vivo nos estúdios do Olhar Digital.
01:10Doutor Álvaro Machado Dias, boa noite, está me ouvindo?
01:13Estou ouvindo sim.
01:15Ah, então vou colocá-lo aqui na nossa tela, é que eu entrei,
01:18nós ainda estávamos aqui preparando a sala direitinho, então vamos lá.
01:22Agora já está tudo bem? Está me ouvindo bem, doutor Álvaro? Boa noite.
01:26Muito boa noite, perfeitamente, Marisa.
01:29Bem-vindo mais uma vez, doutor Álvaro Machado Dias, nesse Olhar do Amanhã.
01:33E hoje temos um tema aqui bastante curioso e polêmico,
01:37até queremos saber todos os detalhes, não é, doutor Álvaro?
01:40O Grock, que é a inteligência artificial de Elon Musk,
01:44já tinha até lançado uma versão que permitia teor sexual.
01:49E a tecnologia gerou deepfakes da cantora Taylor Swift, por exemplo.
01:56Por que as empresas de IA, doutor Álvaro, estão indo por esse caminho à erotização?
02:03Olha só, antes eu vou dar um contexto para todo mundo.
02:06O lance é que a Open AI anunciou que em dezembro,
02:10então daqui a pouquinho, o ano voou, né, Marisa?
02:13Ela vai disponibilizar a possibilidade de construção de conteúdo erótico no chat de IPT
02:20para usuários adultos verificados.
02:23O Sam Nautman explicou que a empresa tinha tornado o chat de IPT muito restritivo.
02:30O que é verdade, tá?
02:32E a busca era garantir, enfim, cuidados com a questão de saúde mental.
02:37A gente lembra daquelas discussões todas sobre como a IA estava reforçando comportamentos deletérios,
02:44perigosos de pessoas que, enfim, estavam usando o aplicativo como terapeuta.
02:50E aí no GPT-5 ele veio bem mais sequinho, né, assim do ponto de vista conversacional.
02:56Pois bem, isso que é muito útil num certo sentido também gerou muita crítica.
03:00E aí do outro lado o bolso começou a reclamar e eles começaram a pensar que, poxa,
03:06a gente tinha que trazer de volta isso e também, na verdade, extrapolar um pouco.
03:11E aí surgiu a ideia de oferecer esse modo adulto.
03:16A inspiração, de fato, é o groque, porque o Elon Musk lançou esse modo spice, né,
03:23o apimentado que gerou essas controvérsias, porque no final dos contos
03:27serviu para a construção de deepfakes e assim por diante.
03:30Então, né, e com imagens sexualmente explícitas, um negócio que, enfim, não deu muito certo.
03:36Qual que é a questão aqui agora, respondendo ao ponto?
03:39Primeira coisa é a pressão competitiva.
03:41Então, a OpenAI, como você estava falando mais cedo hoje,
03:45ela está nesse processo de ampliação, né, o lance no Walmart é só uma das diferentes frentes
03:51que refletem esse processo de ampliação do negócio.
03:54E aí não quer perder esse terreno para outras IAs, porque é óbvio que esse mercado é gigantesco
04:01e é óbvio que as pessoas vão se, assim, muitas pessoas vão se dedicar a esse tipo de interação com a máquina.
04:09Depois, existe uma questão que eu diria que é meio de filosofia de mercado e filosofia de momento,
04:15que é essa ideia de tratar adultos como adultos.
04:18Qual que é a discussão?
04:19O momento atual, do ponto de vista do zeitgeist, do espírito do tempo,
04:24é um de crítica à guardrails, de crítica ao politicamente correto e tudo isso, né,
04:30uma tendência muito trazida pelo governo Trump.
04:34E aí a OpenAI, enfim, entende que está no melhor interesse do seu negócio,
04:40aproveitar para também falar, olha, beleza, então eu vou tratar adultos como adultos,
04:45de vez em quando essa coisa vai descarrilhar, não vai ser legal,
04:49mas no todo é melhor do que a gente criar proteções, a gente criar uma situação artificial
04:54que, vamos dizer assim, blinda as pessoas daquilo que elas querem fazer.
05:00Então eu vou arriscar e ponto final.
05:01Agora, doutor Álvaro, o chat GPT é muito mais popular, não é,
05:07do que o Grock, que teve essa experiência não muito feliz.
05:11Ou seja, os efeitos, não é, também podem ser maiores.
05:15E a OpenAI não deu detalhes sobre verificação de idade, controles de segurança, por exemplo.
05:21Existem formas, doutor Álvaro, de garantir esse tipo de restrição do conteúdo por idade
05:28ou pelo perfil do usuário?
05:30Parcialmente sim, parcialmente não.
05:34Veja bem, os métodos disponíveis são conhecidos, né?
05:37Você põe a foto do documento oficial, uma biometria facial,
05:40um cruzamento com dados oficiais do CPF, tudo isso,
05:45sem a menor dúvida, gera uma restrição, uma barreira de entrada importante.
05:51Mas, olha só qual é a questão.
05:55Isso significa que você tem que armazenar esses dados dessas pessoas,
05:58o que também é arriscado e também expõe, cria uma outra questão que não é tão vantajosa assim, tá?
06:08Então, existem os dois lados, né?
06:10Então, quando a gente pensa que justamente a questão é proteção de crianças, de menores,
06:15essa coisa do armazenamento de dados, ela é um pouco controversa, tá bom?
06:22Existem hoje em dia muitas tecnologias para fazer heuristicamente esse tipo de seleção,
06:30de identificação e assim perceber, por exemplo,
06:34quando um usuário pode estar acessando a conta de outro usuário,
06:39porque também é uma questão importante.
06:40Então, por exemplo, o menor está acessando a conta dos pais.
06:44Então, alguns padrões de uso e assim por diante.
06:47Porém, é importante a gente ter em mente que uma vez que essa senha rodou por aí
06:53e ela está sendo usada, não está mais na responsabilidade da empresa
06:57fazer esse monitoramento.
07:00Então, é discutível se essa segunda camada de heurísticas vai ser implementada
07:06ou simplesmente eles vão pensar, não é mais o meu problema.
07:08Então, dane-se, tá?
07:09Porque, afinal de contas, você ficar também derrubando usuários,
07:12pedindo para logar de novo, fazer autenticação em duas etapas, etc.
07:15Você acaba também afastando o seu cliente.
07:18Então, eu diria que é uma situação que tende a funcionar parcialmente.
07:24Ela tende a trazer poucos falsos positivos, ou seja,
07:27aqueles apontamentos da pessoa que, no fundo, deveria ter legitimidade para entrar,
07:32mas não tem, porque isso é ruim para o negócio,
07:34mas sim a trazer vários falsos negativos, ou seja,
07:38ter muitas vulnerabilidades em relação a essa proteção que está sendo levantada.
07:45Pois é.
07:45Agora, e como que as plataformas podem diferenciar aquele uso pessoal?
07:51Ou seja, a pessoa acessou, porque ela quer acessar aqueles conteúdos,
07:54até de situações de abuso, como, por exemplo, geração ou criação,
07:59e espalhar deepfakes, por exemplo?
08:02Olha, é o seguinte.
08:04Do ponto de vista do conteúdo em si,
08:08hoje em dia é impossível.
08:11Não porque softwares não tenham uma capacidade de detecção.
08:14É porque essa capacidade de detecção não está em 100% ou 98%, 99%.
08:22Ela está ali pairando em torno dos 90%, 92%.
08:26E você não pode ter uma taxa de erro numa situação como essa tão alta quanto 8%, 10%.
08:33Então, a gente tem que considerar que não existe.
08:37É como o plágio.
08:38Ferramentas de plágio, de análise de ar, hoje em dia, elas funcionam razoavelmente bem.
08:43Só que você não pode usar uma ferramenta dessas num concurso
08:46e, eventualmente, você eliminar um candidato por um falso positivo.
08:51Ou é 99% e você corre o risco por 1%, ou não tem como usar.
08:56Então, aqui é muito parecido.
08:57O que existe, Marisa, e pouca gente discute,
09:01são marcas d'água que são impressas por algoritmos
09:06que justamente se dispõem a fazer isso.
09:09Então, aí você consegue fazer uma leitura não do deepfake,
09:12mas da construção com o IA de alguma coisa.
09:16Então, essa é a única maneira de fazer,
09:18mas evidentemente que existem N caminhos para burlar isso.
09:23E, no final das contas, as ferramentas de detecção com IA,
09:28elas nunca vão ser, assim, ou melhor,
09:32nos próximos meses e talvez anos,
09:35elas não resolvam o problema, tá bom?
09:37Então, eu acho que acaba sendo algo que a gente vai ver crescer muito,
09:43vai ter um problema grande antes de encontrar qualquer forma de solução.
09:47É, parece que sim, realmente é um assunto bem delicado.
09:50Agora, doutora Álvaro, saindo do produto e indo para o consumidor,
09:56quais são os principais riscos éticos e sociais, por exemplo,
10:00de criação de conteúdo erótico por inteligências artificiais?
10:04Ou seja, do lado do consumidor,
10:07o que está por trás dessa atitude ou dessa vontade de consumo de algo,
10:13de ter uma interação com algo que não é real?
10:15Bom, o ser humano está se relacionando primariamente com a fantasia
10:20e secundariamente com o mundo real,
10:22desde que o mundo é monto.
10:24Então, até aí não tem grande mudança.
10:26O consumo de conteúdos eróticos é gigantesco,
10:30e foi gigantesco ao longo do século XX inteiro,
10:33e desde que surgiu a pornografia digital,
10:36ela passou muito à frente do erotismo e também se tornou gigantesca.
10:41É uma das grandes indústrias da internet.
10:44Também nenhuma novidade aí.
10:46A grande questão aqui está na riqueza da interação.
10:49Então, não é o conteúdo simplesmente,
10:53é a lógica, é a substituição,
10:57ou a aproximação de uma substituição
11:00daquilo que um relacionamento real traz.
11:03E o que essa tendência reflete,
11:06além das possibilidades tecnológicas em si,
11:10é uma busca maior de se fechar,
11:13de se blindar do mundo,
11:15que é algo que é típico da nossa era.
11:18Então, o isolamento,
11:20essa imersividade num mundo puramente digital,
11:25tudo isso dominou os nossos dias,
11:27impactando relacionamentos sociais
11:29que são menos frequentes do ponto de vista físico,
11:32como a gente sabe,
11:33gerando situações em que as pessoas
11:35cada vez mais planejam menos uma vida conjunta
11:40e também tem uma tolerância às falhas,
11:45aos problemas,
11:46às dificuldades e aos defeitos dos outros muito maior.
11:51É mais ou menos por aí
11:52que eu acho que a gente consegue compreender
11:53um fenômeno como esse.
11:54não é exatamente ou simplesmente pelo lado sexual,
12:00no sentido excitatório,
12:02mas é muito mais como substituição
12:04de relacionamentos afetivo-sexuais,
12:06que são, sobretudo, relacionamentos
12:08que definem a vida das pessoas no dia a dia,
12:10especialmente dos adultos,
12:11ainda que para os adolescentes também tenha seu papel.
12:14Pois é, é um cenário que não é dos mais bonitos,
12:17digamos assim,
12:18afinal de contas, relacionamento humano
12:20é um desafio que todo mundo precisa ter,
12:23e não é só se fechando ali na sua bolha
12:25que você vai resolver os problemas.
12:26Agora, doutor Álvaro,
12:28aproveitando para a gente até encerrar,
12:30essa mudança de comportamento
12:32e até do oferecimento desse material,
12:36ele pode mudar a percepção do público
12:39e das empresas da inteligência artificial?
12:42Algo muda?
12:42Eu acho que sim,
12:44eu acho que isso vai trazendo cada vez mais
12:47uma normalização para as relações
12:50que a gente está acostumado a associar à intimidade,
12:53então a intimidade vai se tornando menos determinada
12:57pelo caráter inexoravelmente humano,
13:01isso é algo de muito diferente,
13:03porque historicamente,
13:05enquanto o estímulo sexual não necessariamente foi,
13:09a intimidade sempre foi algo muito das pessoas,
13:14eu acho que uma outra coisa
13:15que é muito, muito, muito importante nesse momento
13:18é o quanto a gente vai vendo
13:21uma mudança no perfil das empresas de IA,
13:25como você já falou e aqui eu já reforcei,
13:28mas mais uma vez,
13:29eu acho que esse é um fator marcante,
13:30quando a gente vê a Open AI
13:32ao mesmo tempo indo para o varejo
13:34e para a liberação de conteúdos eróticos,
13:37a gente vai entendendo que o objetivo da empresa
13:39está em todas as partes,
13:41isso muda a nossa visão,
13:43as teses sobre o que a gente via como empresas de IA
13:46há poucos meses atrás,
13:48eram teses sobre empresas muito mais encapsuladas
13:52numa área que é a área da infraestrutura,
13:55da inteligência,
13:56na inteligência de máquina,
13:57para outras empresas,
13:58nos mais variados setores,
14:00fazerem alguma coisa com isso,
14:02não é mais o caso,
14:03essas empresas estão almejando ocupar esses espaços,
14:07o que faz com que a gente projete um futuro diferente,
14:12a Open AI já é a empresa privada mais valiosa do mundo
14:16e possivelmente ela pode vir a ser,
14:20realizar aquela profecia do Jensen Huang,
14:24que é de ser a empresa mais valiosa do mundo,
14:27então talvez a gente esteja vendo aqui
14:29realmente esse momento em que a empresa ganha essa capilaridade global
14:33e daqui a pouco não é simplesmente que ela vai estar fornecendo token
14:36para todo mundo,
14:37mas ela vai ser a empresa de todas as coisas.
14:40Pois é,
14:41vamos acompanhando o dia a dia dessa história
14:43aqui sempre com a colaboração
14:45do doutor Álvaro Machado Dias
14:48nessa nossa conversa aqui,
14:50sempre brilhante,
14:51doutor Álvaro Machado,
14:53mais uma vez,
14:53muitíssimo obrigado pela sua participação,
14:56semana que vem teremos mais assuntos
14:58ou desdobrar dessas histórias.
15:00Muito obrigada e tenha uma excelente semana.
15:03Eu que agradeço,
15:03agradeço a todo mundo que nos acompanhou
15:05e até semana que vem.
15:06Até, boa noite.
15:08Tá aí, pessoal,
15:09mais um quadro Olhar do Amanhã
15:11com o doutor Álvaro Machado Dias.
15:13Gostaram?
15:14Interessante, né?
15:15O doutor Álvaro é professor livre e docente
15:17da Universidade Federal de São Paulo
15:19e neurocientista e futurista e colunista
15:23aqui do Olhar Digital.
15:24Bom, semana que vem,
15:26vocês já sabem,
15:26tem mais Olhar do Amanhã.
15:29Tchau, tchau.
15:30Tchau, tchau.
15:31Tchau, tchau.
Recomendado
2:43
|
A Seguir
4:08
Seja a primeira pessoa a comentar