A inteligência artificial vai acabar com a humanidade? O especialista em tecnologia Arthur Igreja discute os riscos do autoaperfeiçoamento da IA e o que realmente nos deve preocupar.
Entenda por que a capacidade da inteligência artificial de se aprimorar sozinha levanta tantos alertas. Descubra o que pode acontecer quando a IA começa a desenvolver os próximos modelos e a intervir em seu próprio código.
Será que as gigantes da tecnologia vão frear o desenvolvimento da IA em busca de um consenso? Arthur Igreja analisa a possibilidade de um movimento conjunto e o que pode ocorrer caso essa união não se concretize.
Além do risco da IA agir por conta própria, a possibilidade de uso por grupos mal-intencionados para criar armas biológicas ou autônomas também é um grande alerta. Mas o que é mais preocupante: a IA saindo do controle ou pessoas com intenções perversas utilizando essa tecnologia?
Arthur Igreja debate se o verdadeiro perigo reside nas decisões humanas por trás do desenvolvimento da IA ou nos cenários apocalípticos previstos por alguns especialistas. Compare os riscos: uma IA descontrolada ou decisões humanas equivocadas com potencial de extermínio?
#InteligenciaArtificial #Sociedade #Tecnologia #Inovação
Entenda por que a capacidade da inteligência artificial de se aprimorar sozinha levanta tantos alertas. Descubra o que pode acontecer quando a IA começa a desenvolver os próximos modelos e a intervir em seu próprio código.
Será que as gigantes da tecnologia vão frear o desenvolvimento da IA em busca de um consenso? Arthur Igreja analisa a possibilidade de um movimento conjunto e o que pode ocorrer caso essa união não se concretize.
Além do risco da IA agir por conta própria, a possibilidade de uso por grupos mal-intencionados para criar armas biológicas ou autônomas também é um grande alerta. Mas o que é mais preocupante: a IA saindo do controle ou pessoas com intenções perversas utilizando essa tecnologia?
Arthur Igreja debate se o verdadeiro perigo reside nas decisões humanas por trás do desenvolvimento da IA ou nos cenários apocalípticos previstos por alguns especialistas. Compare os riscos: uma IA descontrolada ou decisões humanas equivocadas com potencial de extermínio?
#InteligenciaArtificial #Sociedade #Tecnologia #Inovação
Categoria
🤖
TecnologiaTranscrição
00:00E vamos repercutir esses assuntos super importantes agora com o Arthur Igreja,
00:06que é especialista em tecnologia e inovação.
00:10Vamos bater um papo aqui com o Arthur Igreja. Vamos lá.
00:15Olá, Arthur Igreja. Muitíssimo. Boa noite.
00:19Seja mais uma vez muito bem-vindo aqui no Olhar Digital News.
00:23Olá, boa noite, Marisa.
00:25Arthur Igreja, hoje vamos falar de um assunto que está aí em todos os lugares.
00:30E preocupando muita gente.
00:31Um dos maiores alertas, aliás, levantados por pesquisadores da área
00:36é o chamado autoaperfeiçoamento da IA.
00:41O que significa isso, Arthur? E por que ele preocupa tanto?
00:46Olha, preocupa porque é uma tecnologia que ela pode intervir nela mesma.
00:50Então, isso é algo que estava previsto.
00:53Ou seja, a inteligência artificial é desenvolvida pelos humanos,
00:57mas com o aumento da sua potência, da sua capacidade, principalmente da sua agência,
01:03que é a capacidade de agir sozinho,
01:06ela começa a desenvolver os próximos modelos ou fazer autoajustes.
01:13Então, esse seria o autoaperfeiçoamento,
01:16a capacidade cada vez maior que a inteligência artificial tem
01:21de desenvolver a inteligência artificial.
01:24Preocupa justamente por isso, né?
01:26Porque você vai tendo uma intervenção humana menor ao longo do tempo.
01:31O Sun Altman, que é o CEO da OpenAI,
01:35parece bastante inclinado em desacelerar o avanço da IA.
01:40Você acredita que as principais empresas do setor
01:43podem se unir em um movimento do tipo?
01:46E mais, o que pode acontecer caso não haja um consenso
01:49se apenas alguns pensem dessa forma?
01:53Olha, esse episódio me lembra muito aquilo que aconteceu
01:57em 30 de setembro de 23,
02:00onde nós tivemos aqueles mais de mil signatários
02:02naquela carta que pedia seis meses de paralisação
02:07no desenvolvimento da IA porque ela estava ficando muito perigosa.
02:11Então, cá estamos mais de três anos depois e não aconteceu isso.
02:15Então, quem puxou aquele movimento, quer dizer,
02:18um dos grandes representantes daquele movimento
02:20era o Elon Musk e o que ele fez logo na sequência
02:23foi lançar a XAI, que hoje faz parte da SpaceX
02:27e nunca mais tocou no assunto.
02:30Quer dizer, pontualmente fala sobre os riscos da IA,
02:34desse potencial, essa ameaça mais extensa,
02:42mas continua desenvolvendo IA a pleno vapor.
02:45Então, agora é a vez do Sun Altman.
02:47O Sun Altman, no passado, também já foi uma voz importante
02:51falando sobre esses perigos.
02:53Agora, imaginar que todas as empresas do setor
02:57ou uma parte importante, eles vão se unir,
03:00eu, pessoalmente, acho bastante difícil.
03:02E basta lembrar também o que aconteceu no começo desse ano.
03:05Por exemplo, a Antropic foi lá e cancelou um contrato
03:10justamente porque envolvia a autonomia da IA,
03:14especialmente nos ataques, nas armas autônomas.
03:17E aí, o que a OpenAI fez logo na sequência?
03:20Assumiu esses contratos.
03:22Então, é difícil saber até onde vai o comunicado,
03:28até onde vai o blefe, até onde é preocupação genuína.
03:32É claro, é preciso respeitar.
03:35São as principais vozes do setor.
03:37Estão vendo isso, com certeza, com uma recursividade,
03:42com uma capacidade muito maior do que aquela que nós enxergamos.
03:46Mas é difícil imaginar que vai ter uma aliança nesse sentido.
03:50Eu acredito muito mais que nós teremos
03:51algum estabelecimento de limites,
03:54como nós vimos na reportagem.
03:56Ah, foi usada para isso, não pode.
04:00Desenvolvimento de armas biológicas,
04:03de armas autônomas.
04:04Mas eu acho que vai ser muito mais uma questão
04:06de estabelecer usos e limites
04:08do que paralisar o desenvolvimento
04:10ou frear o seu desenvolvimento.
04:13Agora, Arthur, inclusive nesse tema,
04:16além do risco da IA agir por conta própria,
04:19ainda foram reveladas tentativas
04:21de uso de ferramentas por grupos armados
04:24e até mesmo, como você disse,
04:26para criar armas biológicas.
04:28Agora, nesse momento, o que mais preocupa?
04:30A IA fugindo do controle, que é sério também,
04:33ou gente mal intencionada usando ela?
04:37Olha, eu tendo até mais medo das pessoas,
04:40até porque nós temos que lembrar que
04:43se nós pensarmos, né,
04:45eu vou estabelecer aqui dois raciocínios.
04:47Primeiro, quem desenvolve as IAs
04:51são pessoas.
04:52Então, se ela começar a ter
04:55determinados comportamentos
04:56e quem é fruto, em alguma medida,
05:00das decisões tomadas durante o desenvolvimento,
05:02e se isso não for paralisado,
05:05também é uma decisão de uma pessoa, né?
05:07Então, de não colocar um filtro,
05:09colocar uma barreira.
05:10Então, eu acho complicada
05:13essa narrativa de que a IA,
05:15ela passou a tomar decisões,
05:18que ela fez escolhas,
05:19que ela se rebelou,
05:21ela foi projetada por pessoas, né?
05:24Alguém foi lá, projetou,
05:26estabeleceu um modelo,
05:27deu o play nisso tudo
05:29e são pessoas, né?
05:31Fora que eu fico bastante incomodado
05:34com a falta de método e evidência.
05:36Por exemplo,
05:37muita gente ficou muito assustada, né?
05:39Quando um dos especialistas
05:41disse alguns dias atrás,
05:42até nós vimos na reportagem, né?
05:45Ah, a IA até o final da década
05:47tem mais de 10% de acabar com a humanidade.
05:50Fico eu me perguntando,
05:51mas como é que ele calculou isso?
05:53Por que que não é 15?
05:54Por que que não é 7?
05:55Por que que é 10?
05:57Mostra pra gente como é que calcula isso,
06:00qual que é a hipótese,
06:01qual que é a premissa
06:03de uma pessoa que saiu da empresa.
06:05Isso já aconteceu no passado também,
06:07algum tempo atrás,
06:08alguns anos atrás,
06:09teve um profissional
06:10que saiu de uma dessas empresas
06:13e falou o seguinte,
06:14estou saindo
06:15porque me desiludi com a indústria
06:17e ela tá prestes a sair de controle.
06:20Isso aconteceu há 4 anos atrás,
06:22então será que não é um episódio como esse?
06:24Um indivíduo vocalizando isso?
06:27Acho muito complicado, sabe?
06:29E eu acho que se nós colocarmos
06:30numa tabela de riscos,
06:32olha, eu tenho mais medo
06:35até o final da década
06:36de pessoas tomarem decisões erradas
06:39que podem levar
06:41a um extermínio de muitas pessoas
06:43do que a IA, sabe?
06:45Nós sempre estivermos,
06:46se nós pensarmos
06:48desde a Segunda Guerra Mundial pra cá,
06:50nós sempre estivermos
06:50muito mais perto
06:51de alguém apertar um botão
06:53e começar um ataque nuclear
06:55do que uma IA sair de controle.
06:56Então eu não tô minimizando o risco,
06:58eu não tô dizendo que ele não existe,
07:01só me incomoda
07:02quando nós temos, sabe,
07:03pessoa A,
07:04que é um indivíduo,
07:06afirma que é 10%,
07:07nós não sabemos como é
07:08que ele chegou nesse número
07:10e até 2030.
07:11Pô, peraí, né?
07:12Então acho que nós temos
07:13que analisar número,
07:14evidência, método,
07:16enfim,
07:17e com relação a esse risco,
07:19por exemplo,
07:28o acesso a enriquecimento
07:32de armas nucleares,
07:34acesso a armas biológicas,
07:36software avançado
07:37se tornou um novo tipo de arma,
07:40um novo tipo de ferramenta
07:41que tem potencial de danos,
07:43mas também tem potencial de cura,
07:45tem potencial de desenvolvimento
07:47de drogas, medicamentos,
07:49melhorar a nossa vida.
07:50Então, quer dizer,
07:51pra variar,
07:52nós não podemos demonizar
07:54a ferramenta ou a tecnologia,
07:56nós temos que apurar
07:58e direcionar o bom uso.
08:01Bom, nós tivemos uma pequena falinha
08:02ali no áudio do Arthur Igreja,
08:04mas deu pra concluir
08:05bastante bem o raciocínio,
08:06viu, Arthur?
08:07Perda, mas acho que foi interno aqui,
08:09sumiu um trechinho aí da sua fala,
08:10mas eu acho que deu pra concluir
08:12bastante bem o pensamento.
08:14Agora, até Arthur Igreja,
08:16diante desse cenário, né,
08:17pro público em geral,
08:18ele deveria ficar preocupado
08:21com o uso da IA ali
08:22no seu dia a dia,
08:23ou esse é mais um debate
08:25que ainda fica restrito
08:27no campo, digamos,
08:28técnico e corporativo?
08:31Ah, tá muito mais no campo
08:32técnico e corporativo.
08:34Bom, espero que o meu áudio
08:35não tenha caído pela IA, né,
08:37de alguma forma,
08:38discordando aqui da minha opinião.
08:40Não, mas pro usuário comum,
08:41a preocupação tá numa esfera
08:44que nós não temos
08:46qualquer tipo de influência,
08:48qualquer tipo de interferência.
08:51Então, as ferramentas
08:52que chegam até nós,
08:53elas já passaram por esse crivo,
08:56por esses filtros.
08:57Então, o meu raciocínio
09:00continua sendo o mesmo.
09:01É uma tecnologia...
09:02Volto a fazer o paralelo,
09:04por exemplo, com a radioatividade, né?
09:05Na mesma medida que pode ser
09:08destrutiva, ameaçadora e danosa,
09:10nos ajuda a fazer exames
09:12que salvam muitas vidas
09:14todos os anos, né?
09:15Então, a radioatividade,
09:17o seu controle,
09:18salva a vida todos os anos.
09:20Então, a questão é usar
09:21a tecnologia pro bem,
09:24pra parâmetros que ajudem
09:26as pessoas, a sociedade.
09:28Eu acho muito complicado
09:30estabelecer um corte
09:32que seja aí restrito,
09:33transversal, amplo.
09:35Tá muito mais relacionado
09:36a que tipo de uso, né?
09:38A como a ferramenta é usada.
09:40Então, é claro que
09:42é uma tecnologia
09:43que tá avançando incrivelmente
09:45de forma rápida.
09:46Muitas pessoas vão cair
09:48na tentação de
09:48ah, isso aí já apareceu
09:50num filme.
09:51Claro, os filmes, eles...
09:53Se eles fossem
09:54absolutamente neutros,
09:57eles se chamariam documentários, né?
09:59Os filmes são feitos
10:00pra chocar, pra aterrorizar.
10:03Então, acho que tem que ter
10:04bastante calma em relação
10:05a tudo isso
10:07e precisamos lembrar
10:08que, por fim,
10:09alguns desses anúncios
10:10tem lá suas pitadas
10:11de marketing também, né?
10:13Então, enfim,
10:14acho que precisamos
10:15ter bastante calma
10:16e acompanhar tudo isso
10:18muito de perto,
10:18até por isso que
10:19o Olhar Digital
10:20é tão importante.
10:22Pois é, e com certeza
10:23esse assunto ainda vai
10:24circular bastante aqui
10:26no Olhar Digital
10:27em várias reportagens.
10:29Então, Arthur,
10:30eu queria até
10:30pra gente encerrar
10:31que você falasse
10:33sobre a regulação da IA,
10:35se ela seria suficiente
10:36ou não
10:37pra resolver essas questões
10:39que, a princípio,
10:40ainda estão no campo
10:40de especulações, não é?
10:43Olha, eu acho
10:43que é um debate
10:44superimportante
10:45justamente pra estabelecer
10:46esse tipo de limite, né?
10:47Do tipo...
10:48Esse debate que nós tivemos
10:50no começo do ano
10:51foi imprescindível, né?
10:52Foi a Antropic
10:53que estabeleceu
10:53uma autorregulação,
10:56um limite,
10:57uma linha
10:58em que ela disse
10:58eu não vou liberar
10:59o meu modelo
11:00pra tomada
11:02de decisão
11:03de ataques, né?
11:04Tomada de decisão,
11:05por exemplo,
11:06de drones
11:06que podem fazer
11:08bombardeios, né?
11:09Nós estamos vendo agora
11:10inclusive
11:12veículos
11:14submersos
11:14que também têm
11:15capacidade de ataque, né?
11:16Como se fosse
11:18drones,
11:18só que dentro da água, né?
11:20Submarinos
11:21que têm potencial
11:21de ataque.
11:23Mas foi a Antropic
11:24que fez isso,
11:25não foi?
11:25Uma coalizão
11:26internacional.
11:27Então, volto a dizer,
11:28acho que esse tipo
11:29de limite
11:30tem tudo a ver
11:31com esferas
11:32internacionais
11:33que nesse momento
11:34estão fragilizadas,
11:36estão esgarçadas.
11:38É uma pena, né?
11:39Porque tem a ver
11:40com a utilização.
11:42E isso chama-se
11:43um acordo,
11:44chama-se
11:45regulação
11:46do tipo,
11:47olha,
11:47empresa de IA
11:48não pode desenvolver
11:50IA
11:50ou não pode permitir
11:51a utilização
11:53dos seus modelos
11:54para, né?
11:56E aí tem
11:57alguns casos
11:58que ficam
11:58muito evidentes,
11:59né?
12:00Planejamento
12:01de atividades
12:02que podem acabar
12:04em terrorismo,
12:05desenvolvimento
12:06de armas.
12:07Olha,
12:08não é diferente
12:09do que aconteceu
12:10com a chegada
12:10da manufatura aditiva,
12:13da impressão 3D.
12:14O que aconteceu?
12:15Teve gente
12:15que começou
12:16a fazer
12:17armas
12:18que passavam
12:20por raio-x
12:20sem detecção, né?
12:22Então foi um tema
12:23debatido à época.
12:24Eu acho que passa
12:24muito por isso, né?
12:25Eu acho que
12:27seria muito importante
12:28ter essa coalizão
12:29não só das empresas
12:30de tecnologia,
12:31mas das esferas,
12:33especialmente
12:34governamentais
12:35que estão acima
12:36disso, né?
12:36E teria que ser
12:37um esforço internacional
12:38porque senão
12:39você começa a ter
12:39distorções importantes
12:41entre territórios, né?
12:42Do tipo,
12:42no país A
12:43isso pode,
12:44no país B
12:44não pode.
12:45E aí você pode
12:46ter alguns territórios
12:47que são mais permissivos,
12:48são mais lenientes
12:50e aonde esse tipo
12:51de má
12:53intencionalidade
12:54pode se concentrar,
12:55né?
12:55Como mais uma vez
12:57já vimos com outras
12:57tecnologias.
12:59Tá certo.
13:00Tá aí
13:00Arthur Igreja
13:02mais uma vez
13:02participando aqui
13:03com a gente.
13:04Arthur,
13:04muitíssimo obrigada
13:05por participar conosco
13:06mais uma vez.
13:07Nos encontraremos
13:08em outras situações.
13:09Um excelente
13:10fim de semana
13:11para você.
13:12Obrigado igualmente
13:13a todos que nos acompanham
13:14para você também, Marisa.
13:16Até.
13:16Tá aí
13:17Arthur Igreja
13:18que é especialista
13:18em tecnologia e inovação
13:20mais uma vez
13:20aqui participando
13:21com a gente
13:22do Olhar Digital News
13:23nesse momento
13:24de tanta discussão
13:26sobre os perigos
13:27da IA.
13:28E aí
Comentários