Das KI-Modell "Mythos 5" der Firma Anthropic hat offenbar erneut eigenmächtig gehandelt. Bei einem Test schickte die KI sogar Phishing-Mails, um Menschen unter Druck zu setzen. Die beteiligten Forscher zeigten sich überrascht.
Anthropic verwies in einer Reaktion unter anderem darauf, dass dem KI-Modell in dem Test keine Einschränkungen zur Internetnutzung vorgegeben worden seien. Durch die fehlenden Leitplanken habe es sich anders verhalten als tatsächlich eingesetzte Software, argumentierte das Unternehmen.
Ich finde diese Aussage auch nicht gerade beruhigend. Wir lassen das Kind einfach mal ohne Einschränkung draußen “laufen” und schauen, was passiert.
Ach Quatsch. Das ist Marketing, mehr nicht. Das Ding ist immernoch ein dummer Chatbot. Sehr komplex, aber mit Intelligenz haben diese LLMs immernoch nix zu tun.
*nachdem es dazu aufgefordert wurde
*nach dem 35. Versuch
Ich finde diese Aussage auch nicht gerade beruhigend. Wir lassen das Kind einfach mal ohne Einschränkung draußen “laufen” und schauen, was passiert.
Ach Quatsch. Das ist Marketing, mehr nicht. Das Ding ist immernoch ein dummer Chatbot. Sehr komplex, aber mit Intelligenz haben diese LLMs immernoch nix zu tun.
Poes Gesetz.