2026-05-03 10:57 UTC
Um beim Bild des Artikels zu bleiben: Wenn ich etwa ` rm -rf /` als Skript aus dem Internet oder von einem Kollegen vorgeschlagen kopiere, dann ist das Ergebnis dasselbe, ich würde aber nicht auf die Idee kommen, dass ich da ein Alignment-Problem habe - ich habe schlicht das eigene Denken auf Kosten von Technical Debt geschont.
Replies (1)
-
@ftranschel@norden.social 2026-05-03 10:59
Wir werden es daher jetzt massenhaft erleben, dass Leute lernen müssen, dass viele kleine Erfolge und wenige große Misserfolge "im Mittel ganz okay" sind, aber in Bezug auf den gesellschaftlichen und technischen Fortschritt eine ziemlich Sackgasse darstellen. Deshalb lohnt es sich mitzunehmen, dass das Problem dem Konzept Sprachmodell inhärent ist - es geht nicht durch noch so viel Training (oder "!Alignment" weg, sondern liegt in der Konstruktion begründet.