Sinais do Futuro #11 - Agentes de IA, Terras Raras e Vínculos Sintéticos
Pistas, incertezas, possibilidades. Um olhar curioso para o que pode (ou não) acontecer.
Alguns desafios para os agentes de IA
A Anthropic, empresa do Claude, que é concorrente do ChatGPT, está lançando novas versões que, segundo testes, são melhores, pelo menos para Engenharia de Software. Isso levantou preocupação para a OpenAI, que declarou “código vermelho” sobre necessidade de melhorar o ChatGPT.
Para tentar avançar em outras áreas além do chatbot, a OpenAI lançou o Atlas, que é uma nova forma de navegar na internet, porém junto ao ChatGPT. Ou seja, você navega através de prompts, e pode dar comandos como “entre naquele site de tecnologia que estive ontem”. Uma dificuldade é a chamada “injeção de Prompts”, em que sites maliciosos podem colocar instruções ocultas para tentar induzir um funcionamento errôneo ou criminoso.
O que pode acontecer:
Navegadores baseados em IA, como o Atlas, tornam-se uma nova camada de acesso à internet, ou seja, em vez de o usuário entrar no site, ele passa a conversar com um agente que busca, resume e decide o que mostrar.
Ferramentas de IA começam a executar mais ações na web (preencher formulários, fazer compras, enviar e-mails), criando pontos de automação, mas também novos pontos de falha e fraude.
Ataques de injeção de prompts se tornam um novo tipo de ciberataque, e páginas aparentemente inofensivas tentam manipular o agente de IA para vazar dados, executar ações indevidas ou distorcer informações.
Questões críticas:
Que processos internos fazem mais sentido para receber ajuda de um agente de IA que navega na web e quais não deveriam ser automatizados?
Seus pontos de contato com o cliente estão preparados para um futuro em que os acessos virão cada vez mais de agentes automáticos, não de humanos?
Se uma IA de navegação alucinar (pagar um boleto errado, enviar informação errada a um órgão público, aceitar um termo que não deveria), quem assume o erro?
Estratégia exige antecipação, análise crítica e leitura de sinais discretos. Para aprofundar essas reflexões, confira mais conteúdos da Delta Consulting ou conecte-se comigo no LinkedIn.
Terras raras: mais uma indústria de classe mundial no Brasil?
O tema de terras raras vem ganhando cada vez mais visibilidade na mídia, expressando sua importância atual e potencial na economia e geopolítica. O Brasil tem a segunda maior reserva do mundo, e teve seu presidente afirmando que o país não seria exportador dos minérios, mas que quem os quisesse explorar, teria que desenvolver indústrias no país, como vai acontecer com o Projeto Carina.
Ao redor do mundo, outros países vão dando cada vez mais importância ao assunto, como Paquistão, Reino Unido, e União Europeia, que está cada vez mais pressionada para acelerar as descobertas desses minerais entre seus membros.
O que pode acontecer:
Regiões mineradoras passam a atrair parques tecnológicos e clusters industriais, alterando o mapa de empregos qualificados no país, bem como sua demanda.
Disputas internas aumentam entre mineração de curto prazo e projetos industriais mais longos, com pressões por flexibilizar regras ambientais e sociais, podendo gerar conflitos com comunidades locais.
Mais um setor econômico de classe mundial pode ser formado no Brasil (tal como no petróleo, aviação civil e agropecuária).
Questões críticas:
Quais oportunidades de serviços surgirão para o seu negócio com a instalação de novas indústrias de alta tecnologia no país?
Que impactos socioeconômicos e ambientais podem acontecer nas cidades próximas aos polos produtivos de terras raras? Quais as oportunidades e riscos para sua empresa?
Como a entrada de grandes players estrangeiros em projetos de terras raras pode reconfigurar a concorrência e as oportunidades no seu setor?
Vínculos sintéticos
O Character AI é um chatbot que permite que os usuários conversem com personagens personalizáveis. Por questões de saúde mental, a plataforma mudou sua permissão apenas para pessoas acima dos 18 anos. Isso gerou muita tristeza para vários jovens, que sentiram que perderam sua companhia.
Já existe também uma inteligência que a partir de vídeos gravados em vida cria reencontros virtuais com pessoas que já morreram. Isso levantou diversas questões éticas e é apenas um indício do quão complexo isso pode ser do ponto de vista psicológico e social e da falta de arcabouço regulatório para lidar com a velocidade do avanço tecnológico.
O que pode acontecer:
Profissionais de saúde mental passam a lidar com casos em que a pessoa prefere o vínculo com o chatbot a relações humanas, modificando processos terapêuticos e de luto.
A pressão por regulação cresce, mas o ritmo tecnológico segue rápido, abrindo períodos longos em que não há regras claras sobre o que é permitido (demoramos mais de 15 anos para ter regulação para adolescentes no Meta/Facebook em alguns países).
Se alguém desenvolver dependência emocional de um bot e sofrer danos psicológicos quando o serviço mudar ou for desligado, a empresa pode ser responsabilizada.
Questões críticas:
Qual a responsabilidade das empresas que oferecem serviços de companhia por IA têm sobre a saúde mental dos seus clientes?
Que limites éticos marcas e instituições deveriam estabelecer para usar avatares de pessoas reais em campanhas, atendimento ou experiências?
Se um “embaixador virtual” da sua marca disser algo ofensivo ou cometer um crime de ódio por uma alucinação de IA, como gerenciar os impactos dessa crise?
Quer explorar como preparar a sua empresa para enfrentar múltiplos futuros possíveis? Me manda um e-mail em fernando@deltaconsulting.com.br.
Para não perder atualizações, acompanhe novas reflexões em meu perfil no LinkedIn.