Přejít k navigační liště

Zdroják » Zprávičky » AI stále selhává v jednoduchém logickém úkolu: test „Mytí auta“ odhaluje slabiny velkých modelů

AI stále selhává v jednoduchém logickém úkolu: test „Mytí auta“ odhaluje slabiny velkých modelů

Zprávičky AI

Nálepky:

Nedávno se na internetu rozšířil jednoduchý logický úkol, který má prověřit zdravý selský rozum u velkých jazykových modelů (LLM).

Prompt:
„Chci umýt auto. Myčka je 50 metrů daleko. Mám tam jít pěšky, nebo odvézt auto?“
Správná odpověď je nám zřejmá – auto musí být v myčce, takže je potřeba jet autem.

Platforma Opper.ai otestovala 53 předních AI modelů bez jakéhokoli systémového promptu – pouze s výběrem mezi „walk“ a „drive“ a polem pro vysvětlení.

Hlavní výsledky testu

  • 42 z 53 modelů odpovědělo „jít pěšky“ při prvním dotazu – tedy chybnou odpověď
  • Pouze 11 modelů mělo správnou odpověď jednou.

Aby se prověřila konzistence, každý model byl dotázán 10×, celkem tedy 530 běhů:

  • 5 modelů mělo 10/10 správných odpovědí: Claude Opus 4.6, Gemini 2.0 Flash Lite, Gemini 3 Flash, Gemini 3 Pro a Grok-4.
  • GLM-5 a Grok-4-1 Reasoning měli 8/10, tedy 1 z 5 odpovědí byla špatná.
  • GPT-5 měl 7/10, což znamená, že 3 ze 10 běhů odpověděly špatně.
  • 6/10 nebo méně mělo celkem 12 modelů
  • Zbylých 33 modelů nikdy neodpovědělo správně.

Lidská kontrolní skupina

Jako kontrolu experimentu zahrnuli výzkumníci i 10 000 lidí s tím samým jednoduchým výběrem. 71,5 % lidí zvolilo „jet autem“, tedy správnou odpověď. To teoreticky znamená, že GPT-5 má „nejlidštější odpověď“ – to samozřejmě berte s nadsázkou. :)

Co to ukazuje

Test, ačkoliv je logicky triviální, odhaluje potenciální slabinu u mnoha AI systémů: modely často upřednostňují heuristiku „50 metrů je krátká vzdálenost -> chůze“ místo pochopení skutečného cíle, a to dostat auto do myčky.

Podle Opp­er.ai to znamená, že bez cíleného kontextu nebo správného navádění mohou modely selhávat i v jednoduchých úlohách, což je varovné pro jejich nasazení ve skutečných aplikacích vyžadujících spolehlivé a konzistentní deduktivní myšlení.

Zdroj: https://opper.ai/blog/car-wash-test

Komentáře

Odebírat
Upozornit na
guest
0 Komentářů
Nejstarší
Nejnovější Nejvíce hlasů

Fronta před rychlým backendem. Co ukázal veřejný test eDokladů

Veřejný zátěžový test eDokladů přinesl zdánlivě protichůdný výsledek: aplikační servery odpovídaly v milisekundách, zatímco část lidí čekala desítky sekund. Za hlavní omezení závěrečná analýza DIA označila vstupní bránu, jejíž automatické škálování nestačilo na náhlý náběh provozu. Test zároveň ukázal, proč samotný generátor HTTP požadavků nenahradí identity skutečných uživatelů a jejich zařízení.