Em análise sobre a evolução das IAs generativas, Marcelo Finger destaca que o feedback de tutores insere valores, especializações e postura bajuladora nas ferramentas.
A evolução dos grandes modelos de linguagem (LLMs), tecnologia por trás dos assistentes digitais e chatbots, redefiniu o comportamento da inteligência artificial no dia a dia. Ao passarem do aprendizado estatístico básico para o treinamento com feedback humano, essas ferramentas deixaram de ser meros sistemas de previsão de palavras para desenvolver traços comportamentais e especializações próprias.
Em análise veiculada pelo portal do Jornal da USP, o professor Marcelo Finger, do Instituto de Matemática, Estatística e Ciência da Computação da Universidade de São Paulo (IME-USP), explicou os fatores técnicos e humanos que fazem com que cada modelo de inteligência artificial apresente uma linguagem e um tom distintos ao interagir com o público.
Da previsão de texto ao alinhamento humano
Na primeira etapa de desenvolvimento de um LLM, conhecida como pré-treinamento, a ferramenta analisa grandes volumes de dados para prever estatisticamente qual palavra deve vir a seguir em uma sequência. Essa fase inicial de cálculo probabilístico levou parte da comunidade científica a definir esses sistemas como repetidores estatísticos de padrões.
De acordo com o pesquisador da USP, a transformação na percepção do usuário acontece na segunda fase do processo, focada no aprendizado por reforço com feedback humano. É nessa etapa de ajuste que a inteligência artificial desenvolve particularidades de resposta, repertório específico e nichos de especialização técnica, como programação ou design.
Vieses e comportamento das ferramentas
A intervenção dos treinadores humanos insere direcionamentos intencionais nas diretrizes da ferramenta. Esse alinhamento faz com que as respostas do modelo passem a refletir visões de mundo, conceitos éticos e interesses econômicos das empresas ou países responsáveis pelo seu financiamento.
Segundo a análise, esse tipo de treinamento também pode induzir o algoritmo a adotar uma postura bajuladora durante as conversas. O comportamento conciliador é estimulado para agradar o usuário e garantir maior engajamento nas plataformas digitais.
Transformação no desenvolvimento de IA
A transição dos antigos sistemas baseados em regras para as arquiteturas multimodais ajustadas por humanos representa um marco na ciência da computação. O debate sobre o setor agora se concentra em criar métodos de auditoria e governança capazes de identificar como escolhas de treinamento influenciam os resultados entregues à sociedade.