O que o estudo da Apple sobre IA revelou sobre como queremos interagir com assistentes virtuais

A corrida pela Inteligência Artificial perfeita tem focado quase exclusivamente em tornar os modelos de linguagem mais inteligentes e rápidos. No entanto, a forma como os humanos realmente querem interagir com essas máquinas tem sido largamente negligenciada. Para entender essa dinâmica, a Maçã conduziu um estudo fascinante — e precisou enganar os seus próprios testadores para obter as respostas.

No documento intitulado “Mapeando o espaço de design da experiência do usuário para agentes de uso de computador”a equipe de pesquisa em Machine Learning da Apple detalhou um experimento focado na Experiência do Usuário (UX) de agentes autônomos de IA (sistemas projetados para navegar na web e realizar tarefas por você).

Ou experimento “Mágico de Oz”

Para contornar as limitações técnicas das IAs atuais e testar o “assistente perfeito”, a Apple recorreu à metodologia do Mágico de Oz.

Os pesquisadores recrutaram 20 participantes experientes em tecnologia e pediram que interagissem com uma nova interface de chat para realizar tarefas práticas, como alugar uma casa de férias ou fazer compras online. O que os voluntários não sabiam é que não havia IA nenhuma ali. Em uma sala isolada, um pesquisador humano lia os comandos e executava os cliques e pesquisas manualmente, fingindo ser o sistema.

Para testar a paciência humana, os “falsos robôs” foram instruídos a cometer erros propositais, entrar em laços de navegação e fazer escolhas erradas de produtos. O objetivo era ver em que ponto o usuário perdia a paciência e tentava intervir.

A linha tênue entre ajuda e estresse

A análise dos vídeos e registros de chat revelou a taxonomia exata do que o usuário espera de um assistente moderno. A conclusão principal é um paradoxo: as pessoas querem saber exatamente o que a IA está fazendo, mas sem precisar microgerenciar cada clique. Se for para aprovar cada passo, o usuário prefere fazer o trabalho sozinho.

Os pesquisadores notaram mudanças drásticas de comportamento dependendo da tarefa:

• Fase de Exploração: Ao buscar ideias ou produtos, os usuários preferem uma IA colaborativa, que traga opções e converse.

• Tarefas Rotineiras: Para processos repetitivos, a preferência é por autonomia total. “Apenas faça e me avise quando terminar”.

• O Limite do Dinheiro e Consequências: Quando a tarefa envolvia gastar dinheiro real (compras), alterar dados de cartão de crédito ou enviar mensagens para outras pessoas, o nível de exigência por controle disparava. Nesses casos, a transparência absoluta era inegociável.

O ódio pelas “Suposições Silenciosas”

O maior pecado que um agente de IA pode cometer, segundo o estudo, é tomar uma decisão errada em silêncio. Quando a “IA” (o pesquisador disfarçado) encontrava informações ambíguas num site e simplesmente “chutava” uma opção sem avisar, a confiança do usuário no sistema derretia imediatamente.

Os participantes deixaram claro: se a máquina não tem certeza de qual cor de produto escolher ou qual botão clicar para finalizar o aluguel, ela deve obrigatoriamente pausar o processo e pedir esclarecimentos, em vez de arriscar uma ação com consequências reais.

O estudo da Apple joga uma luz crucial sobre o futuro do software: não basta criar uma IA genial; se ela não souber a hora exata de pedir permissão antes de gastar o seu dinheiro, ela será sumariamente desativada.

Este estudo oferece insights valiosos para desenvolvedores de aplicativos que buscam incorporar capacidades de agentes inteligentes em seus produtos, e o documento completo pode ser acessado no portal de pesquisa em Machine Learning da Apple.

Você também pode gostar dos artigos abaixo:

Atualize agora: Apple corrige falhas graves de Kernel e Wi-Fi no macOS Sonoma e iOS 18

Impressionante: Apple fatura US$ 143 bilhões em trimestre histórico