Na computação, a expressão “garbage in, garbage out” resume uma ideia simples: dados de baixa qualidade tendem a produzir resultados de baixa qualidade. No uso da inteligência artificial, essa máxima é útil — desde que não seja tomada como explicação completa.
Um modelo de linguagem não verifica automaticamente a verdade de tudo o que produz. Suas respostas dependem do treinamento, do contexto, das instruções recebidas e, quando disponíveis, de ferramentas e fontes externas. Um pedido confuso ou uma premissa falsa pode levar a uma resposta convincente, mas equivocada.
Isso não transforma a IA num mero espelho do usuário. O sistema também traz padrões, lacunas e limitações próprios. Por isso, cabe a quem usa a ferramenta formular boas perguntas, examinar as premissas, conferir informações importantes e corrigir o rumo quando necessário.
Aqui há uma afinidade com uma atitude filosófica: o conhecimento progride não por certezas imunes à crítica, mas pela possibilidade de testar e corrigir erros. A referência a Karl Popper pode servir como analogia, não como afirmação de que um modelo de linguagem seja, literalmente, uma “máquina popperiana”.
Usar IA exige responsabilidade epistemológica: duvidar, testar, reformular e verificar. O risco não está apenas numa resposta ruim, mas na crença dogmática de que a ferramenta não possa errar.
Texto originalmente publicado pela RZK Philosophical Counseling no LinkedIn.
Uma curtida por navegador, sem cadastro.