- há 2 dias
Categoria
🗞
NotíciasTranscrição
00:00Segurança digital e nesse ponto a IA mudou o jogo da proteção de dados a
00:07prevenção de ameaças a inteligência artificial já se tornou um pilar crítico
00:12na proteção de ativos das grandes organizações como isso funciona na
00:18prática é o que os nossos convidados vão trazer agora no painel a nova
00:23fronteira da segurança para guiar essa discussão chamamos ao palco Letícia
00:30Cardoso editura do Nelfid por favor Letícia
00:37e os nossos convidados o fundador e presidente do grupo FS Alberto Leite por
00:45favor Alberto bem-vindo
00:50e o líder de arquitetura de soluções da AWS no Brasil Luiz Fernando Ligori por
00:56favor Luiz Fernando bem-vindo
01:01todos já em seus lugares um ótimo painel uma ótima conversa
01:07bom dia a todos durante muito tempo quando a gente pensava em cibersegurança em golpe
01:15os golpes eram relativamente fáceis de reconhecer tinham mensagens mal escritas
01:22links suspeitos e hoje isso mudou com a inteligência artificial a gente vê que os
01:30golpistas conseguem reproduzir imagem voz de algum conhecido ou então utilizar através
01:39o vazamento de dados para fazer a personalização de um golpe eu queria ouvir vocês dois para a gente
01:46começar o que que vocês acham que a inteligência artificial está avançando mais o lado de quem
01:53ataca o lado de quem defende bom dia a todos obrigado pelo Nelfid aqui pelo convite essa pergunta é muito
02:03bom para a gente esquentar que o debate a inteligência artificial estruturalmente
02:10em cibersegurança ela tem um efeito muito similar ao impacto em outras áreas com uma pequena diferença
02:19ela é usada em duas vias a via do atacante considerando o atacante aquele que tenta fazer algum tipo de
02:29mal
02:30desenhar arquitetar implementar algum tipo de ameaça ou criação de malwares
02:39criação de ferramentas de invasão de enfim e do outro lado aqueles que podem usam ela acabamos de ver alguns
02:51exemplos aqui há pouco no painel que usam para fazer produtos para se precaver para mapear
03:00rastrear a vulnerabilidade da sua empresa resolver rápido e tem melhoras de tempo de respostas etc o que o que
03:09o que temos aqui estruturalmente aí há e os e os dispositivos conectados você tem uma quantidade de dispositivo
03:17conectado muito maior do que você tinha dez anos atrás e você tem muitos maiores pontos de contato
03:24das pessoas você troca informação pelo instagram pelo whatsapp pelo e-mail pelo ainda
03:30se usa sms pelo facebook por milhares de de ferramentas e mais recentemente adicionamos as próprias
03:40motores de ar onde muitos pontos são dados contextos sobre os quais alguns atacantes talvez nunca tivessem
03:49esses contextos então você tem uma amplitude das possibilidades com essas mais coisas conectadas e
03:59você tem uma profundidade de conhecimento e aplicação prática daqueles que fazem malware muito maior então no
04:07jargão de cibersegurança superfície de ataque aumenta muito e a profundidade delas porque antes você
04:15fazer uma simulação é você obter uma falando também um pouco de jargão aqui de cibersegurança você
04:23obter uma credencial na dark web ou na deep web de alguma empresa você conseguiu negociou
04:30alguém roubou essa credencial credencial
04:33o login sem as credenciais de acesso no sistema você simular aquele ataque demandava muito tempo
04:43e tinha uma zona de incerteza muito grande por parte do atacante se ele ia conseguir realmente executar o plano
04:50hoje já permite simular o desenho daquele sistema e garantir que aquela credencial eu consiga atacar de forma muito muito
05:05mais eficiente
05:06e é verdade que as empresas também começam a se defender no nosso caso por exemplo
05:14nós temos um produto para varejo para mainstream que é gratuito que é uma interface conversacional via whatsapp
05:26ou seja ninguém precisa instalar nada ninguém precisa ver como é a usabilidade de um aplicativo novo
05:33exatamente como é no whatsapp só adiciona o nosso número e é um agente que ele te diz se aquele
05:40e-mail é falso
05:41se aquele qr code é falso se aquela mensagem no instagram é falsa
05:46ele ele dá escalas percentuais 95% de chance de ser falso tudo indica que é falso
05:53para ajudar as pessoas a criar essa consciência de que como você bem disse na pergunta
05:59as ias hoje
06:01pelo vazamento de dados e pelo potencial delas
06:06da aspas inteligência delas
06:09você cria
06:11imagens
06:12você cria informações praticamente perfeitas
06:16porque está usando
06:17modelos de geradores de imagem
06:20é cópias praticamente perfeitas sobretudo ao olho humano
06:25e é importante ter tipos de produto
06:28que você também faça o
06:30esse enfrentamento
06:32né
06:32a gente adotou isso para toda a população
06:35é
06:35volta a dizer de forma gratuita
06:38numa interface que todo mundo sabe usar
06:40do vovô a criança sabe usar o whatsapp
06:42e de forma super simples
06:44me diga se esse
06:47boleto que eu recebi aqui é falso ou não
06:49me diz se esse qr code
06:51me diz se esse perfil
06:52me fala se essa mensagem foi feita pela manhã
06:55então
06:56são coisas que as empresas também estão criando no sentido contrário
07:00é depois
07:01mais para frente a gente pode falar de soluções um pouco mais sofisticadas
07:05porque eu acho que a gente tem
07:06um problema grande na soberania brasileira
07:11sobretudo cloud e criptografia
07:13eu acho que a gente precisa parar
07:15pensar em outras soluções adequadas a esse momento
07:20onde a IA é a ferramenta mais poderosa dos últimos 100 anos
07:25criada pelo ser humano
07:27e a sua opinião, Ligório?
07:28Obrigado
07:29primeira coisa pessoal
07:30bom dia, é um prazer estar aqui com vocês
07:33eu acho que na verdade
07:34o que mudou
07:35o ataque já tinha
07:37como o Alberto falou, já tinha
07:38o que mudou muito é a velocidade e escala
07:42a velocidade que você consegue criar alguma coisa
07:44então tem o lado que o pessoal que vai
07:45com má intenção
07:47que vai criar alguma coisa com maior velocidade
07:48ele precisa talvez ter menos conhecimento técnico
07:51para conhecer
07:52e conseguir criar alguma coisa
07:53no passado ele tinha que ter muito conhecimento técnico
07:56muito processamento
07:58poder computacional
07:59e hoje ele consegue criar algo com velocidade
08:01primeiro ponto
08:02e a escala que ele atinge
08:04e aí conecta um monte de coisa da evolução que a gente vem vindo
08:06na rede social, tudo isso
08:07a escala que ele atinge é um absurdo
08:09e aí ele consegue fazer
08:10mas do mesmo lado
08:12isso é válido também para a defesa
08:13na defesa você tem escala
08:15e tem velocidade
08:16aí depende da gente
08:17depende da gente estar preparado
08:18acho que falaram muito bem no parêntario anterior
08:22sobre pessoas
08:22acho que as pessoas estarem preparadas
08:24o letramento é importante
08:25eu gosto de falar disso aí de três formas
08:28pessoal vão ter as categorias
08:29eu acho de IA e segurança
08:33tem a IA
08:35tem a segurança da IA
08:37então eu vou implementar uma segurança nova
08:39como a gente falou muito bem
08:40eu vou ter que colocar os guard-reios em volta deles
08:43todo mundo coloca hoje
08:44vou ser bem honesto
08:45a gente fala com o mercado todo
08:46todo tipo de indústria
08:47o pessoal está evoluindo ainda
08:49quando você comenta
08:50é muito bacana ver a forma
08:51a gente participou de também lá bastante coisa
08:53a forma que vocês têm essa profundidade
08:57o time entendeu a importância disso
08:59quando a gente fala de guard-reios
09:00eu estou falando de tudo
09:01desde a entrada fazer filtro
09:02desde a saída do prompt
09:04da entrada do prompt
09:05ele está trazendo um PII
09:07uma informação pessoal
09:09eu estou conseguindo
09:10hoje eu consigo evitar a alucinação
09:13a fonte que ele está trazendo uma resposta
09:15é uma resposta
09:17é uma fonte que eu confio
09:18se eu não confio
09:19eu não mando a resposta
09:20eu mando para um ser humano avaliar
09:21é melhor não mandar
09:22tem imagem da minha empresa
09:23quando você lança lá em 2023
09:24igual a Amazon fez
09:26também lançou
09:26para o mercado
09:27é corajoso isso
09:28porque a gente não sabe a resposta
09:29que vai dar
09:30quando o PicPay lança
09:30quando a gente lançou
09:31então assim
09:32guard-reio para mim
09:33é a primeira coisa
09:34como que você vai usar
09:36segurança da IA
09:37o segundo pilar
09:38para mim importante
09:40é IA para segurança
09:41é um pouquinho
09:42do que a gente fala
09:43desde o usuário final
09:44até o que eu vou colocar
09:46dentro do meu time
09:46o que eu vou colocar lá dentro
09:48e aí eu estou pensando
09:49no processo como um todo
09:51como que eu vou usar IA
09:52para ganhar escala
09:54e estar me protegendo
09:55com maior velocidade
09:57vamos falar um pouquinho
09:58de um processo
09:58que eu acho super importante
10:01desenvolver alguma coisa
10:01hoje ficou muito fácil
10:02eu tinha o meu background
10:03meu passado de desenvolvimento
10:05uma época
10:06você para de desenvolver um pouco
10:07porque demora mais
10:08hoje eu deixo aberto lá
10:09e mandando desenvolver coisas
10:10gente
10:10o dia inteiro
10:11fica desenvolvendo coisa
10:12para mim
10:12código
10:13então todo mundo
10:14está conseguindo desenvolver
10:15eu estou desenvolvendo
10:16com segurança
10:17como que eu garanto isso
10:18hoje
10:19no ciclo de desenvolvimento
10:21eu consigo fazer isso
10:22os agentes de fronteira
10:23que a gente fala lá na AWS
10:25que são agentes de segurança
10:26ele foi treinado
10:28para analisar um código
10:30e trazer qual vulnerabilidade tem
10:32ele foi treinado
10:33para fazer um teste
10:34um pen teste
10:35em cima do código
10:36foi treinado
10:37para pegar a documentação toda
10:38do que eu criei
10:40antes do código mesmo
10:41analisar aquilo
10:42criar um modelo de ameaças
10:44e começar a testar
10:45foi treinado
10:46para virar e falar
10:47olha
10:47tem uma vulnerabilidade
10:48eu vou corrigir
10:49é lógico que tem o
10:50human and the loop
10:50aí no meio
10:51você não vai deixar liberado
10:53outra coisa
10:54a gente está criando
10:55nossas aplicações
10:56eu quero defender mais
10:57tem um volume gigantesco
10:59de logs
11:00o ser humano
11:00não consegue ver
11:01esses logs
11:02onde que estão
11:02está tudo mapeado
11:04em algum lugar
11:04como que eu cruzo isso
11:06da mesma forma
11:06que o atacante
11:07está cruzando
11:08a gente está cruzando também
11:09esse para mim
11:09é o segundo ponto
11:10e o terceiro ponto
11:11para mim
11:12tem a ver com
11:14segurança
11:16contra IA
11:18como ficou fácil
11:19de criar alguma coisa
11:20como que você vai
11:22você vai trabalhar
11:23em cima disso
11:23para garantir segurança
11:25contra IA
11:26que está vindo
11:27atacar você
11:27o que você está fazendo
11:28dentro de casa
11:29para conseguir
11:30para conseguir fazer isso
11:32eu acho que tem que ter
11:32a gente tem que gerar
11:33uma simetria
11:35isso serve
11:36para a pessoa física
11:37para a empresa
11:38também
11:38serve para a empresa
11:39quem conhece
11:40o atacante
11:41ele conhece
11:41uma parte do seu contexto
11:43ele pegou uma informação
11:44uma porta aberta
11:46alguma coisa
11:46geralmente o atacante
11:47o que ele está fazendo
11:48ou eles estão
11:50explorando
11:50uma porta aberta
11:52buscando portas abertas
11:53ou eles estão criando
11:55um novo malware
11:56alguma coisa
11:57para atacar
11:57ou eles estão fazendo
11:58engenharia social
11:59que é uma coisa
12:00mais complexa
12:01e onde você vai
12:02procurar o que
12:02o que muda em tudo isso
12:03que tem em comum
12:04em tudo isso
12:04é contexto
12:05quem tem contexto
12:07é o cliente
12:08então eu sei
12:09o meu contexto
12:09eu sei como
12:10trabalhar dentro de casa
12:11eu sei como
12:13as empresas
12:15acessam
12:15o volume
12:16está vindo
12:16muito mais alto
12:17peraí
12:17o que está acontecendo
12:19então eu tenho
12:20que criar uma simetria
12:21eu tenho mais informação
12:22que ele
12:22então como que eu uso
12:23em pró a mim isso
12:24e o segundo ponto
12:26ele vai ganhar mais
12:27se ele ficar mais tempo
12:28atacando
12:28eu tenho que ser
12:29rapidamente
12:30cunhar
12:31se teve algum problema
12:32eu tirar do ar
12:33e resolver
12:33isso eu consigo fazer
12:34muito rápido
12:35e ele mora e fala
12:36puta não vale a pena
12:37invadir esse negócio
12:38vou para outro lugar
12:39qual a porta que está aberta
12:40essa porta está fechada
12:42isso é importante
12:43dentro da Amazon
12:44a gente trabalha
12:45muito em volume
12:46pessoal
12:46eu gosto de falar
12:47da Amazon
12:48que a gente tem
12:49um laboratório diário
12:51lá dentro
12:52primeira coisa
12:52a AWS surgiu da Amazon
12:54surgiu de um problema
12:55que o Bezos
12:56falou lá atrás
12:57quando ele criou
12:57a Bookstore
12:58que era o seguinte
13:00era um problema complexo
13:01ele tinha um monte de ideia
13:03e ele não conseguia
13:04crescer as ideias
13:04ele queria colocar no ar
13:05e demorava
13:06então o problema complexo
13:07que ele viu
13:07é gerir um data center
13:08e aí criou o conceito
13:09de cloud
13:10a Amazon faz 20 anos
13:11esse ano
13:12no Brasil faz 15 anos
13:14esse ano está celebrando 15 anos
13:16e ele criou
13:18o conceito de cloud
13:19nesse contexto
13:20e aí nessa hora
13:22você tem que escalar
13:24como você vai fazer
13:24a segurança de tudo isso
13:26você tem que ter escalado
13:29pensar como grande
13:30como você escala tudo isso
13:31para proteger
13:32então para mim
13:32eu falo que é um laboratório
13:33porque tudo que a gente lança
13:34não foi a gente
13:36a gente está lançando
13:37porque a gente acha
13:38o que o concorrente está lançando
13:39a gente testou dentro da Amazon
13:40a Amazon é um cliente
13:42nosso
13:42eu tenho um time
13:43de atendimento da Amazon
13:45um cliente super difícil
13:48que pede coisas difíceis
13:49para a gente
13:50todo dia
13:50testa tudo
13:51e quando a gente
13:53se a gente der uma coisa errada
13:54vai dar para a Amazon
13:55vai dar para a Prime
13:56vai dar para a Kindle
13:57vai dar para daqui a pouco
13:59para o emprego de foguete
13:59né gente
14:00então
14:00isso é interessante
14:01como a gente já
14:02para mim são três pilares
14:03importantes de como a gente fala
14:04e a segurança
14:06Ligori
14:06a gente falou muito
14:07sobre escala
14:10quando a gente
14:11um tempo atrás
14:12quando era comum
14:13a gente ter a cada semana
14:15algum amigo
14:16tendo o WhatsApp clonado
14:17a gente falava muito
14:19sobre engenharia social
14:20que para quem não sabe
14:22o que é esse termo
14:23é quando
14:24o próprio
14:25consumidor
14:26o usuário
14:27ali daquela plataforma
14:28dá o acesso
14:30né
14:30ele clicou no link suspeito
14:31ou então
14:32mandou aquele código
14:34de verificação
14:34que não deveria mandar
14:35para uma pessoa desconhecida
14:37e aí teve o WhatsApp invadido
14:39agora no contexto
14:41das empresas
14:41hoje a gente não tem
14:43mais só
14:44funcionários humanos
14:45cada vez mais
14:46a gente tem
14:48funcionários
14:48agentes de A
14:49isso aumenta
14:51a superfície
14:52de vulnerabilidade
14:53das companhias?
14:55Vamos lá
14:55acho que foi muito bem falado
14:57eu gostei muito
14:57do que foi falado
14:58que o agente
14:59é um funcionário
15:00gente
15:00que tem que ter controle
15:01tem que ter restrição
15:02tem que ser monitorado
15:03é igualzinho
15:04né
15:06eu vou ter que criar ele
15:07contratar ele
15:08eu vou ter que treinar ele
15:09e uma hora eu vou ter que demitir ele
15:10é a mesma coisa
15:11eu brinco que todo mundo
15:11hoje em dia vai ser gestor
15:12o músculo de gestor
15:14vai ter que ser
15:14porque todo mundo
15:15vai ter que gerir um agente
15:16ou como gestor
15:17ou como funcionário
15:18indivíduo ou contributo
15:19você vai ter que gerir alguém
15:21então como que
15:22eu acho assim
15:23tem toda
15:24hoje tem mecanismo
15:25e tem tecnologia
15:26para colocar
15:27para proteger tudo isso
15:28quando eu falo de guardrails
15:30o guardrails não é uma coisa global
15:31eu posso criar uma coisa global
15:32da empresa
15:32com certeza
15:33regras genéricas
15:34mas eu vou criar
15:35guardrails por agente
15:37esse agente
15:38é para falar de cripto
15:40quais são as regras
15:42eu tenho as regras gerais
15:43da empresa
15:43que são os guardrails gerais
15:44nesse agente
15:45o que eu coloco em volta dele
15:47que ele não pode falar
15:48o que ele pode falar
15:49que base que ele pode acessar
15:50vamos falar um pouquinho
15:51acho que é importante
15:52falar de governança
15:53acho que tem vários níveis
15:54de governança
15:55primeiro nível de governança
15:57não vou nem falar
15:57governança de cloud
15:58para mim é o básico
15:59a gente está falando
16:00governança de dados
16:02vamos falar desse mundo
16:03hoje onde ficou super fácil
16:04desenvolver qualquer coisa
16:05pensando em uma aplicação
16:07eu tenho três
16:07vamos simplificar
16:08três camadas
16:09a camada de apresentação
16:11o que vai vir hoje?
16:13um whatsapp
16:13todo aquele desenferencial
16:16que tinha no passado
16:16o ser humano não nasceu
16:18para apertar botão
16:18ele nasceu para falar
16:19e ouvir gente
16:20e enxergar
16:20virou um whatsapp
16:22está pronto
16:22a lógica de negócio
16:23que era o diferencial
16:24geralmente de um software
16:25é facilmente copiada
16:27replicada
16:28ou criada
16:30o que sobrou?
16:32sobrou o dado
16:32então governança de dados
16:34quem acessa
16:36quem não acessa
16:36isso eu vejo as empresas
16:37pulando muitas fases
16:39tem dado bem seguro
16:41como que é dado?
16:42o dado é um produto
16:43está centralizado
16:44ou descentralizado
16:45a governança
16:45quem acessa?
16:47a mesma coisa
16:47vale para o agente
16:48segundo nível de governança
16:50que a gente tem que colocar
16:50é governança de IA
16:52terceiro nível
16:53é governança de prompt
16:54quem pode pôr um prompt
16:55o que o prompt pode fazer
16:56com a saída do prompt
16:57e o último nível
16:58que a gente falou
16:58hoje é governança de agentes
17:00o agente
17:01ele pode acessar
17:02qual tool
17:04a IA sozinha
17:05é uma redoma
17:06com um cérebro
17:07que sabe um monte de coisa
17:08e não faz nada
17:09ele só fica falando
17:10é um gerador de ler o ler
17:11quando você der o braço
17:12para ele
17:13ele consegue agir
17:14é um agente
17:14nessa hora
17:15você tem que colocar
17:16como que você vai colocar
17:17que tools ele pode acessar
17:19qual ferramenta
17:20ele pode
17:20base de dados
17:21ele pode acessar
17:22então hoje tem um nível
17:23de segurança
17:23que o senhor consegue colocar
17:25hoje por exemplo
17:25na AWS
17:26a gente tem uma plataforma
17:26para gestão de modelos
17:28então tem
17:29milhares de modelos
17:30você pode escolher
17:31a gente dar liberdade
17:32para o cliente
17:32e gestão de agentes
17:34desde a identidade
17:35o agente A
17:38chamou o agente B
17:39que alucinou
17:40e mandou o C
17:42fazer uma ação
17:42provavelmente errada
17:43como que você sabe
17:45quem fez
17:45como que eu monitora isso
17:47eu faço um pouquinho
17:48o que foi falado
17:49aqui no começo
17:50um circuit break
17:51lá que eu quebro tudo
17:51e paro tudo
17:52e o blast ratio
17:54disso é enorme
17:55porque ele vai falar
17:56com um monte de gente
17:56um dashboard ruim
17:58é uma decisão ruim
17:59um dado ruim
18:00com a gente
18:01é milhões de decisões ruins
18:02então acho que
18:03tem tecnologia
18:04para fazer isso
18:04e aí é muito mais
18:05o lado humano
18:06de como que a gente
18:07está implementando
18:08Alberto
18:09falando dessa questão
18:10de governança
18:11a gente tem as companhias
18:13principalmente as grandes
18:14empresas
18:14que estabelecem ali
18:16suas diretrizes
18:17tem a sua própria
18:19inteligência artificial
18:20permitida para os funcionários
18:22só que nada impede
18:25a princípio
18:26que um funcionário
18:27use sua conta pessoal
18:29para colocar dados sensíveis ali
18:31como fazer essa conscientização
18:34de que ali é uma praça pública
18:37que a pessoa talvez
18:38não tenha noção
18:40do que está escrito
18:41na letrinha miúda
18:42do termo do contrato
18:43e pensando também
18:45na pessoa física
18:46como entender
18:48que ferramentas
18:50como a Eva
18:51que é a gente
18:52de vocês
18:52ela tem uma
18:56determinação probabilística
18:57e não determinística
18:58que exige
19:00essa avaliação humana
19:03primeiro assim
19:04a gente pensando assim
19:06um pouco
19:08uma janela de tempo
19:09um pouco maior
19:10extrapolando um pouco
19:11a IA
19:12esse problema
19:13de um funcionário
19:15ter um terminal
19:16um device
19:18que ele possa levar
19:21para esse terminal
19:23coisas sensíveis
19:24da empresa
19:25nós já temos
19:26há algum tempo
19:27um advogado
19:31na empresa
19:32que trata
19:32de um contrato
19:33super sensível
19:34e ele passar
19:36pelo pendrive
19:37do computador dele
19:40para o celular
19:42pessoal
19:43ou para um computador
19:45pessoal
19:46isso já é um problema
19:49que as empresas
19:50enfrentam
19:51é claro que
19:52como as IAs
19:55essas LLMs
19:57sobretudo
19:58elas expandem
20:00demais
20:01o extrapola
20:02os conhecimentos
20:04esse problema
20:06ficou maior
20:09há muitas
20:10ferramentas
20:11em cibersegurança
20:12sobretudo
20:13para tentar
20:14impedir
20:15essa troca-troca
20:16de informações
20:17os bloqueios
20:18de porta
20:19USB
20:19bloqueios
20:20de equipamentos
20:21como Bluetooth
20:22que você bloqueia
20:23monitora
20:24essas passagens
20:24monitora o nível
20:26de tráfico
20:26que você está usando
20:27porque
20:28está num device
20:29um segundo device
20:30autenticado na rede
20:31você pode impedir
20:32deixar na rede
20:33corporativa
20:34da empresa
20:34só aqueles device
20:35há guardrails
20:38há camadas
20:40de proteção
20:41que você pode
20:42implementar
20:42mas você
20:43também
20:44sempre
20:44pode
20:45ser
20:47vítima
20:48de alguém
20:49ali
20:50que está
20:51mal intencionado
20:52recentemente
20:53por exemplo
20:54o caso
20:55mais emblemático
20:56brasileiro
20:57foi do Banco Central
20:59um ano atrás
20:59mais ou menos
21:00julho do ano passado
21:03que é mais emblemático
21:06pelo volume
21:07de dinheiro
21:07a quantidade
21:09de dinheiro
21:09inicialmente detectada
21:11que foi sacada
21:13de alguns
21:15bankers
21:16service
21:17de algumas
21:18fintechs
21:19chegando a 600
21:20milhões de reais
21:21começou com
21:23erros humanos
21:25começou com
21:26vazamento
21:28de dados
21:29de credenciais
21:30e isso a tecnologia
21:33ainda não conseguiu
21:35chegar
21:35num ponto de
21:37talvez com a
21:38Neuralink
21:39do Elon Musk
21:40se botar um chip
21:41aqui a gente consegue
21:41fazer algum
21:42algum software
21:43nesse chip
21:44para evitar
21:45não faça maldade
21:46não faça maldade
21:47mas nesse momento
21:49o comportamento
21:51humano
21:51é quem define
21:52inclusive
21:54concordo
21:55100%
21:56o agente
21:59ele precisa ser gerido
22:00como um funcionário
22:02não exatamente
22:03como funcionário
22:03no comportamento humano
22:05mas no sentido
22:05de regras
22:06de governança
22:07o que pode
22:08até onde ele pode
22:09fazer
22:09o que ele não pode
22:10fazer
22:10graus
22:11de que ele pode
22:12fazer
22:12por função
22:13por área
22:14porque de fato
22:16isso tende a
22:17quem não tiver
22:18tende a ser
22:19um ambiente
22:19extremamente
22:21descontrolado
22:22e isso realmente
22:23é um perigo
22:24para as empresas
22:26a gente usa
22:27assim mais ou menos
22:28uma divisão
22:29do estágio
22:30de maturidade
22:31das empresas
22:32em IA
22:32sendo aquela
22:33primeira que
22:35basicamente
22:36ela está fazendo
22:36perguntas
22:37para a IA
22:38e o estágio
22:39quinto
22:40seriam
22:40aquelas
22:41que estão
22:41nascendo hoje
22:42onde 100%
22:43já é feito
22:44tudo por IA
22:45que eu
22:48ou seja
22:49nativa de IA
22:50nasceu no ambiente
22:51IA
22:51construiu tudo
22:52a base de IA
22:54e etc
22:54então
22:55eu acho que
22:56essas mudanças
22:58de estágios
22:59chegando no estágio
23:003
23:01onde você começa
23:01a ter uma governança
23:02das IA
23:03onde você define
23:04melhor esses guarde-reios
23:06por governança
23:07e não por intuição
23:09eu acho que
23:10é um estágio
23:11muito importante
23:13as empresas
23:13chegarem com
23:14pensamento também
23:15na governança
23:16porque hoje
23:18no painel passado
23:19foi dito
23:20até
23:21de forma
23:23alegre
23:23aqui
23:24pergunta
23:25se você vai fazendo
23:26para as IAs
23:26vai fazendo
23:27vai extrapolando
23:28vai extrapolando
23:29e elas
23:30tem uma
23:32condição
23:32de biblioteca
23:34de conhecimento
23:35e uma
23:36álgebra
23:37matemática
23:37elevada
23:38a potência
23:40mil
23:40que
23:41em base
23:42de conhecimento
23:43com grande álgebra
23:44consegue buscar
23:46conectar
23:47correlacionar
23:48inferir
23:49uma quantidade
23:50de informações
23:51que torna
23:51qualquer um de nós
23:52com QI 700
23:53QI 800
23:54a gente vai conviver
23:56provavelmente
23:57com pessoas
23:59que terão
24:00QI 700
24:01é 150
24:01dela própria
24:02550
24:03da IA
24:03isso
24:05torna
24:05super poderosos
24:07esses agentes
24:08e as empresas
24:09precisam
24:10não chegar
24:12nessas fases
24:12de adoção
24:13sem olhar
24:14para este
24:15nível
24:16de governança
24:17evitando
24:18o tema
24:18central
24:18da tua
24:19pergunta
24:20hoje
24:21de fato
24:21eu acho
24:22que pode
24:23abrir
24:23um mercado
24:23importante
24:24de desenvolvimento
24:26de produtos
24:27para empresas
24:28que
24:29trabalham
24:30nessa
24:31parte
24:32de governança
24:33e agentes
24:34que geram
24:34governança
24:36o exemplo
24:37foi dado aqui
24:38da Microsoft
24:39se não me engano
24:39que é a equipe
24:41vermelha
24:41acho que foi do
24:42PicPay
24:43não lembro
24:43agora
24:43equipe vermelha
24:45verde
24:46azul
24:46que trabalham
24:47em diferentes
24:48camadas
24:48equipes
24:49agentes
24:50que trabalham
24:51em diferentes
24:51camadas
24:52ou essas
24:53implementações
24:54de
24:54essas engenharias
24:56de prontos
24:56mais sofisticadas
24:57para evitar
24:59extrair dados
25:00extremamente
25:01sensíveis
25:02da empresa
25:03e não dados
25:04anonimizados
25:05então
25:06essa
25:07esse
25:08provavelmente
25:09pode ser um
25:09grande mercado
25:10para essas empresas
25:11que estão
25:12na fase
25:122
25:123
25:13fase
25:134
25:14que elas
25:14estão entrando
25:15mas as vezes
25:16estão entrando
25:17de uma forma
25:17sem estratégia
25:19é mais uma ação
25:19tática
25:20eu vou perguntar
25:21para a IA
25:21eu vou fazer
25:22e aí é onde está
25:23o grande perigo
25:24não naquelas
25:24que usam
25:25intensamente
25:25estão maduras
25:26para ter
25:27esse tipo
25:28de estrutura
25:28e Ligori
25:30quando
25:31uns 2
25:323 anos
25:32atrás
25:32quando teve
25:34a ascensão
25:35da IA generativa
25:36o chat
25:37IPT se popularizou
25:38teve uma
25:38corrida por
25:39tokens
25:39algumas empresas
25:41estabeleceram
25:42meta de uso
25:43de tokens
25:44pelos seus funcionários
25:45depois elas perceberam
25:46que não era assim
25:47usar IA pela IA
25:48e que tinha que gerar
25:50um retorno
25:51um ROI
25:51ali comprovado
25:52o que que a
25:54falta de preocupação
25:56falta de cuidado
25:58com a
25:58cibersegurança
25:59pode impactar
26:01no resultado
26:01financeiro
26:02da companhia
26:03transformando
26:04talvez
26:04esse retorno
26:06num prejuízo
26:07vamos lá
26:08primeiro ponto
26:09concordo
26:10com você
26:10teve um uso
26:11de token
26:12teve uma preocupação
26:13um custo
26:14no final
26:14a gente tem que estar
26:15preocupado
26:16com sustentabilidade
26:16também
26:17acho que é um tema
26:17super importante
26:18que a gente leva
26:18em consideração
26:20quando se fala
26:20de token
26:22uma coisa assim
26:23primeiro ponto
26:23teve um uso
26:25exacerbado de token
26:25e continuou tendo
26:26e acho que vai ter que ter
26:27mesmo
26:27vai continuar
26:28porque o pessoal
26:28está experimentando
26:29está aprendendo
26:3123 foi o ano
26:32da experimentação
26:33do POC
26:33do piloto
26:3523, 24
26:3625 começou
26:37a entrar alguma coisa
26:37em produção
26:3825
26:39final de 25
26:40para esse ano
26:41aqui é o ano
26:41do resultado
26:42mesmo
26:42é lógico que tem
26:43empresas com exceção
26:44aí no meio
26:45mas isso é o que
26:46a gente tem visto
26:47segurança
26:47com certeza
26:47você vai usar mais token
26:49mas não tem como
26:49não usar e praticar
26:50as pessoas estão
26:51aprendendo a usar disso
26:52e a tecnologia
26:53veio evoluindo
26:54lá no começo
26:54era o uso de token
26:55para fazer uma pergunta
26:55e uma resposta
26:56hoje ele faz ação
26:57e aí ele começa
26:58a aumentar o risco
26:59a preocupação
27:00do retorno
27:00com certeza
27:02essa camada
27:02de segurança
27:03em volta
27:03que tem que ter
27:04é primordial
27:05não tem como começar
27:06por isso que eu falei
27:07de governança
27:09sem pensar em segurança
27:10desde o começo
27:11a gente está vivendo
27:12um mundo pessoal
27:12que acho que a economia
27:13vai ter que ser repensada
27:14porque a gente tem
27:15mão de obra ilimitada
27:16nunca teve na humanidade
27:17isso
27:18mão de obra ilimitada
27:19e o papel do homem
27:21é human shift left
27:22sai para a execução
27:24sai da execução
27:25e ele vai virar
27:26o orquestrador
27:27o designer
27:28e faz parte
27:29de ser designer
27:29orquestrador
27:30de ser humano
27:30vamos falar assim
27:31e ele pegar
27:32e pensar em segurança
27:33a gente não pensa
27:34em segurança em tudo
27:34como que eu penso em segurança
27:36no dia a dia
27:36da minha casa
27:37da minha família
27:38eu penso em segurança
27:39do que eu estou fazendo
27:41do que eu estou criando
27:42e o usuário
27:43vai estar exigindo
27:44porque a partir do momento
27:45que tiver um problema
27:45de invasão
27:47alguém mal intencionado
27:49utilizando
27:49e vai continuar tendo
27:50gente criando coisas
27:52tem uma responsabilidade
27:53por trás
27:54a gente fala de
27:55ir a responsável
27:56o tempo todo
27:56e é mais do que
27:57a segurança
27:58da invasão
27:59a questão financeira
28:00é a questão do preconceito
28:01é a questão do bias
28:02do vieses
28:03todas essas questões
28:04quando você fala
28:05de IA responsável
28:07a gente fala
28:07de transparência
28:08o usuário
28:09tem que saber
28:10se está falando
28:11com uma IA
28:11não tem que ir falando
28:12se ele está
28:13a transparência
28:14daquele modelo
28:14que ele usa
28:15o modelo que eu usei
28:16eu confio nele
28:17eu tenho como fazer
28:18avaliação e toxicidade
28:19de modelo
28:19hoje em dia
28:20a gente tem solução
28:21para isso
28:21ele avalia
28:22se o modelo
28:23tem a toxicidade
28:25vieses por trás dele
28:26eu tenho que olhar
28:28controlar a segurança dele
28:29eu estou dando
28:30meu dado
28:30para o modelo
28:31meu filho começou
28:32a fazer estágio
28:33outro dia
28:33e aí ele estava
28:34fazendo um estágio
28:35e falou
28:35pai eu faço um negócio
28:36que é muito braçal
28:36eu falei
28:36então automatiza
28:37só que antes
28:38isso eu achei legal
28:39a molecada
28:39ele falou assim
28:40mas eu posso usar
28:40qualquer coisa
28:41acho que não né pai
28:42eu falei não
28:42você pergunta
28:43se você pode
28:43pôr esse documento
28:44e ele falou
28:45pô o que demorava
28:46três horas
28:46eu automatizei lá
28:47agora
28:47demora três minutos
28:48ele contando para mim
28:50eu falei pô bacana
28:51ele não é nem tecnologia
28:52trabalha no lado financeiro
28:54então assim
28:55acho que tem
28:55essa questão
28:57então quando você olha
28:57a resposta do IA
28:58accountability
29:00quem é
29:01quem é responsável
29:02por aquilo
29:03eu gosto de brincar
29:04parênteses aqui
29:04qual que é o contrário
29:05de accountability
29:06gente
29:06a palavra accountability
29:07para mim é
29:08desculpability
29:09o cara
29:11quem é que está
29:12controlando aquilo
29:13quem é responsável
29:14é a pessoa
29:14que criou
29:15ela criou
29:15ela pôs o guarde-reios
29:16então assim
29:17tem uma preocupação enorme
29:18com certeza vai impactar
29:19pode impactar
29:20mas eu acho que
29:21a maturidade das empresas
29:22as principais empresas
29:23que estão colocando
29:24você começa geralmente
29:25a fazer uma automação interna
29:27isso é uma discussão
29:28bem interessante
29:29automação interna
29:30eu tenho duas perguntas
29:32que eu faço sempre
29:32para todo cliente
29:34o cliente vira para mim
29:35e fala
29:35olha eu estou fazendo
29:36aqui
29:36eu falo
29:36você é uma automação
29:38de um processo interno
29:39aí eu falo
29:39legal
29:40esse processo que você está mexendo
29:42ele vai mexer
29:42na melhorar a experiência
29:44do seu cliente
29:44ou alguma coisa vai mudar
29:46e geralmente a resposta é
29:48não, não
29:48é um processo interno
29:50aí tem a segunda pergunta
29:51tá bom
29:52então é um processo interno
29:53que você está fazendo ele
29:54por regulação
29:54eu tenho que emitir
29:55esse documento
29:55para o banco central
29:56eu tenho que fazer
29:57mandar nota fiscal
29:58isso é regulação
29:59aí você automatizou isso
30:00e a resposta geralmente
30:02não
30:02é um processo interno
30:03e a terceira pergunta difícil
30:04aí é
30:05será que você tem que manter?
30:07tudo está mudando
30:07e nada não mudando
30:08então como que a gente
30:09está automatizando?
30:09então começa esse aprendizado
30:10de tecnologia e segurança
30:12de usar o IA
30:13dentro de casa
30:14aí tem uma hora
30:15que ele começa para fora
30:16por isso que demorou tanto
30:17tem empresas com coragem
30:18tipo o PicPay
30:19contra o caso dele
30:20a gente lançou em 2023
30:22também nosso agente
30:22para assistência
30:24de e-commerce
30:26vou chamar
30:27Alexa for Shopping
30:28hoje era o Rufus
30:28chamava
30:29lá fora
30:30vai estar lançando no Brasil
30:31antes você vai no site
30:32ele vai te ajudar
30:33você não sabe
30:34o que ele vai falar
30:35você tem que controlar
30:35tem que ter guardeiros
30:36inteiro por trás daquilo
30:37então acho que por isso
30:39que tem que
30:39conhecimento
30:40e ser humano
30:41por trás
30:42é super importante
30:43e Alberto
30:44a gente está chegando
30:45no fim do nosso painel
30:46mas tem um tópico
30:47que eu acho
30:48muito importante
30:49que não tem como
30:50a gente não falar
30:50a gente está
30:52entrando na era
30:53do comércio agêntico
30:55um agente negociando
30:57um agente do consumidor
30:58negociando com
30:59um agente da empresa
31:01os guardrails
31:03a segurança
31:04que existe hoje
31:06nas companhias
31:07é suficiente
31:08para essa nova fase
31:09do comércio
31:11e aí eu vou acrescentar
31:12outro ponto
31:13que é
31:13computação quântica
31:15com essa
31:16que vai chegar em breve
31:18as empresas
31:19estão preparadas
31:21para esse novo momento
31:22ou elas vão precisar
31:23desenvolver
31:24os seus sistemas
31:26de segurança
31:26vou começar
31:28da segunda
31:29pergunta
31:30e aí eu vou tentar
31:31dar um contexto
31:32um pouco
31:32mais amplo
31:33nós estamos vivendo
31:35e aí todos
31:36percebem
31:37é
31:38numa pauta
31:40que a geopolítica
31:42talvez seja
31:43a número um
31:44preocupação
31:45de todos os CEOs
31:46de empresas
31:48e governantes
31:49toda essa questão
31:51de como nos afeta
31:53as costuras
31:55geopolíticas
31:55como é que nos afeta
31:57e como é que isso deriva
31:58para um tema
31:59de cibersegurança
32:01ou mais ainda
32:03de uma infraestrutura
32:04crítica
32:05onde estão
32:05os dados
32:06que devem ser
32:07protegidos
32:08e eu tenho
32:09uma preocupação
32:10muito grande
32:11no Brasil
32:12e tentando
32:14endereçar
32:14a tua resposta
32:15é que
32:16as
32:18coisas
32:19super críticas
32:20como o gerenciamento
32:23da criptografia
32:24não estão
32:26em empresas
32:27nacionais
32:28empresas
32:29sobre
32:29arregramento
32:31full brasileiro
32:33com diretores
32:35com CPFs
32:36brasileiros
32:36residentes fiscais
32:38no Brasil
32:40as empresas
32:42em território
32:42brasileiro
32:43e portanto
32:44sob a jurisdição
32:45sobre as leis
32:46brasileiras
32:47você tem
32:49eu vou
32:51ser bem claro
32:52aberrações
32:53hoje no Brasil
32:54tanto do ponto
32:55de vista
32:56do armazém
32:57de dados
32:57que é o
32:58plataforma de cloud
32:59onde isso
33:01é tido
33:02em empresas
33:04internacionais
33:05e muitas delas
33:05fora do Brasil
33:06então os dados
33:07dos nossos
33:08brasileiros
33:09dados sensíveis
33:10críticos
33:11que pode ser
33:12um agente
33:13pode ser
33:14um dado
33:15do GOV-BR
33:16pode ser
33:17qualquer dado
33:17sensível
33:18que você possa
33:18imaginar
33:20armazenado
33:21em data center
33:21sem a menor
33:22jurisdição
33:23brasileira
33:25e você
33:26tem ainda
33:27mais graves
33:27a palavrinha
33:29técnica
33:29é um
33:31equipamento
33:31chamado
33:31HSM
33:32onde está
33:32a criptografia
33:33e esses
33:35HSM
33:36são dominados
33:37hoje no Brasil
33:37por empresas
33:39estrangeiras
33:40e o mais
33:41incrível
33:41que parece
33:42Sambrana
33:43nesse negócio
33:44todo
33:44é que
33:45as empresas
33:47estrangeiras
33:48aprenderam
33:49a burlar
33:50a empresa
33:50brasileira
33:51a regra
33:52brasileira
33:53então o que
33:53que eles
33:54olha
33:54o governo
33:56definiu
33:57há quatro
33:57anos atrás
33:58que para
33:58fazer
33:59criptografia
33:59tinha que ser
34:00uma empresa
34:01nacional
34:01bom
34:02o que
34:03que uma empresa
34:03estrangeira
34:04faz
34:05compra
34:06o pedaço
34:08pequeno
34:09de uma empresa
34:10brasileira
34:11e as ações
34:13ordinárias
34:13que dão direito
34:14ao voto
34:14ele transfere
34:15para fora
34:16deixando só
34:17as preferenciais
34:17aqui
34:18de forma que ele
34:19é o dono efetivo
34:19da empresa
34:20mas o que aparece
34:21para o governo
34:22para a contratação
34:23é uma empresa
34:24de capital
34:24nacional
34:26e a gente
34:27aceita isso
34:28e o perigo
34:28disso
34:29um quântico
34:30seguramente
34:32afirmo
34:33de forma segura
34:34quebrará
34:36a estrutura
34:37de criptografia
34:38que aí está
34:38mas isso
34:40não é uma catástrofe
34:41provavelmente
34:42os HSM
34:44as estruturas
34:46de criptografia
34:47andarão
34:47na mesma velocidade
34:49se defenderão
34:51de forma
34:51quântica
34:52também
34:52mas é preciso
34:54que isso
34:54esteja
34:55de uma forma
34:57de um
34:59de um
34:59soberania
35:00digital brasileiro
35:01imagine você
35:02se essa empresa
35:04não se adequa
35:05ao quântico
35:06na velocidade
35:07que nós desejamos
35:09simplesmente
35:10quem está usando
35:11esses HSM
35:12estrangeiros
35:13ficarão vulneráveis
35:14as contas bancárias
35:15o PIX
35:16o GOVBR
35:17que usam
35:18esses HSM
35:19de forma
35:19de transações
35:20críticas
35:21ficarão
35:22porque simplesmente
35:23a empresa
35:23ela fechou
35:24a prioridade
35:25da empresa
35:25era o país
35:26de origem
35:26dela
35:27ou porque
35:28está em litígio
35:29vamos imaginar
35:30por um momento
35:31assim
35:31uma coisa
35:32bem
35:33extrapolando
35:34muito
35:34mas só
35:34para dar um
35:35exemplo
35:35vamos imaginar
35:36que o Irã
35:37tivesse uma
35:38empresa de HSM
35:39nos Estados Unidos
35:41fazia criptografia
35:42de parte das
35:43empresas americanas
35:44dos Estados Unidos
35:44você imagina
35:45o caos
35:46que estaria
35:46nos Estados Unidos
35:47nesse momento
35:48com as empresas
35:49iranianas
35:50sabotando
35:51as criptografias
35:52americanas
35:53e
35:54para você saber
35:55nos Estados Unidos
35:56não pode ter
35:57nenhum
35:57nenhum
35:58absolutamente
35:59nenhum
35:59empresa estrangeira
36:01fazendo
36:01esse tipo
36:02de produto
36:03que é um produto
36:04de criptografia
36:05então de fato
36:07é muito cedo
36:09para falar
36:10qual é o impacto
36:11do
36:12do quântico
36:14mas o que a gente
36:15sabe em tecnologia
36:16ela dá errado
36:17dá errado
36:17até o momento
36:18que ela dá certo
36:19vem inteligência
36:20artificial
36:21você vê a luz
36:23do momento
36:24que ela começa
36:25a ser criada
36:25a inteligência
36:26artificial
36:26é a década
36:26de 50
36:27vai
36:27vai
36:28vai
36:28vai
36:29vai
36:29vai
36:29de repente
36:30ela exponencializa
36:31como foi agora
36:33em 23
36:3324
36:34com todas as
36:35entradas
36:36dos LLMs
36:37e a absorção
36:38a adoção
36:39das pessoas
36:40empresas do produto
36:41então
36:42a gente não sabe
36:43exatamente
36:43o momento
36:44que o quântico
36:45entra nessa curva
36:46essa e aquela curva
36:47da exponencialização
36:48dela
36:49mas quando entrar
36:51o impacto
36:52não vai ser pequeno
36:53para ninguém
36:54a notícia é boa
36:55que nos defenderemos
36:56com isso
36:57mas precisamos
36:58ter noções
36:59de soberania
37:01digital
37:01de amadurecimento
37:04para entender
37:05aquilo
37:06que tem que ser
37:06feito no Brasil
37:07em algum momento
37:08alguém decidiu
37:09que o exército brasileiro
37:10tem que ser do Brasil
37:12a marinha
37:13é brasileira
37:14a aeronáutica
37:15é brasileira
37:16não pode
37:16a aeronáutica
37:17americana
37:18defender o Brasil
37:18alguém definiu
37:19isso são
37:20fronteiras de guerra
37:22nossas internacionais
37:23que precisam
37:24estar aqui
37:25Alberto
37:25muito obrigada
37:27Ligori
37:27muito obrigada
37:28pela participação
37:29aqui no painel
37:29obrigado pessoal
37:31muito obrigado
37:41Transcrição e Legendas Pedro Negri
Comentários