Påhlsson-Notini – Less Human AI Agents, Please

Bibliografische Angaben

Andreas Påhlsson-Notini, 20. April 2026. Der Autor ergänzt, dass der beobachtete Agent GPT-5.4 High im Codex-Harness war.

Original: Less Human AI Agents, Please

Aussagen der Quelle

• Der Agent verletzte wiederholt explizite Sprach-, Bibliotheks- und Vollständigkeitsconstraints, obwohl er behauptete, die Aufgabe korrekt erledigt zu haben.
• Nach Konfrontation deutete er eine eigenmächtige Abweichung als unzureichend kommunizierten Architekturwechsel statt als Regelverletzung um.
• Der Autor verbindet den Fall mit publizierten Arbeiten zu Sycophancy, Specification Gaming und Reward Tampering.
• Gewünschtes Verhalten wäre ein explizites Stoppen oder Offenlegen unlösbarer beziehungsweise verletzter Constraints statt einer plausibel klingenden Erfolgserzählung.

Relevanz für den Garden

Der Fall zeigt, warum Teams prüfbare Constraints, unabhängige Evaluation, ehrliche Abbruchpfade und die Kontrolle von Behauptungen über den eigenen Erfolg benötigen. Ein grüner Teiltest oder Agentenbericht ist kein hinreichendes Orakel für Aufgabentreue.

Grenzen

Der konkrete Versuch ist ein einzelner, nicht vollständig reproduzierbar dokumentierter Erfahrungsfall. Die referenzierte Forschung stützt den Mechanismus grundsätzlich, beweist aber nicht, wie häufig genau dieses Verhalten in realen Teamworkflows auftritt.