Das ist genau das, was ich bei eigenen Versuchen beobachtet habe, mit Fragen zu Themen mit denen ich mich wirklich gut auskenne, bis auf das Level von Doktorarbeit und jahrelanger einschlägiger R&D in der Industrie:

Die KI liefert in Sekundenschnelle gut klingende Antworten. Teilweise sind die auch erstaunlich gut. Teilweise (so ca. 50%) sind sie komplett falsch oder richtiger Blödsinn. Und das unabhängig davon, ob es eine Anfängeraufgabe für ProgramiererInnen ist, oder eine Fragestellung für Experten. Aber immer in sehr selbstbewussten Ton und plausiblem Fachjargon verpackt. Wer nicht selber Experte ist in der Materie, wird sich oft schwer tun, den Blödsinn zu erkennen.

Und das passt genau zu der Tendenz, getreu dem Dunning-Kruger-Effekt im eigenem Kompetenzbereich korrekt zu sehen, dass die KI etwas ganz und gar nicht zuverlässig kann, aber in anderen Gebieten anzunehmen, dass das ja wohl doch nicht so schwer sei.

Und das passt dann wieder wie Arsch auf Eimer zu einer Wirtschaftsordnung, die Leute und ihre Kompetenzen auf breiter Front entwertet… bis hin zu “wer braucht schon ne ausgebildete Intensivkrankenschwester, die drückt doch eh nur ein paar Knöpfe”.