• 394 Posts
  • 1.41K Comments
Joined 2 years ago
cake
Cake day: April 4th, 2025

help-circle



  • Looks like LLM companies are not only trying to push adoption of their stuff everywhere - wether that might make sense or not - but also are trolling communities which are putting or want to put some sensible limits on that (see discussions around GNOME or KDE).

    The fact that a lot of companies are taking crazy pills does not mean that FOSS projects have to do the same.

    And the idea that using LLMs for eveything is mandatory is increasingly getting a religigous note. It is absolutely correct to ake a step back - like GKH did here - and access what is helpful or not.

    And it is absolutely necessary that communities put limits and boundaries on things that are not helpful.
















  • Here a comment on this from usernomdeguerre on hacker news (ycombinator.com).

    “His” and “GKH” refers to Greg Kroah-Hartmann, who is maintainer of the stable kernel series and the speaker in the video.

    I’ve included a few slides into text that i thought were eye-opening to me:

    From his Kernel Recipes 2026 slide on Mythos

    
      Mythos's 79 vulnerabilities:
      24 - no detail at all "something crashed"
      14 - not a bug at all
      3 - totally made up data
      15 - already fixed in latest release
        - 11 by others
        - 4 by anthropic
      20 - fixes were needed
        - 7 "assume a malicious filesystem image"
        - 2 "assume you can inject a malicious network packet into the middle of the stack"
        - 2 "NOMMU"
        - 6 sctp networking issues for untrusted devices
        - 2 ipv6 minor network issues 
        - 1 gpu driver for local malicious user
    
    

    GHK called this “10 ‘real’ bugfixes”, which to me sounds like there’s a wild hype machine around these companies and uncritical parroting of every press release they make that falls apart when you engage the affected real experts.


  • Here a comment on this from usernomdeguerre on hacker news (ycombinator.com).

    “His” and “GKH” refers to Greg Kroah-Hartmann, who is maintainer of the stable kernel series and the speaker in the video.

    I’ve included a few slides into text that i thought were eye-opening to me:

    From his Kernel Recipes 2026 slide on Mythos

    
      Mythos's 79 vulnerabilities:
      24 - no detail at all "something crashed"
      14 - not a bug at all
      3 - totally made up data
      15 - already fixed in latest release
        - 11 by others
        - 4 by anthropic
      20 - fixes were needed
        - 7 "assume a malicious filesystem image"
        - 2 "assume you can inject a malicious network packet into the middle of the stack"
        - 2 "NOMMU"
        - 6 sctp networking issues for untrusted devices
        - 2 ipv6 minor network issues 
        - 1 gpu driver for local malicious user
    
    

    GHK called this “10 ‘real’ bugfixes”, which to me sounds like there’s a wild hype machine around these companies and uncritical parroting of every press release they make that falls apart when you engage the affected real experts.



  • Eine Software, die sich selbständig macht, die nicht die erwünschten Ergebnisse liefert oder sogar Schaden anrichtet, ist ein defektes Produkt, keine Meisterleistung. Die großen KI-Firmen wie Anthropic und OpenAI produzieren in großem Stil Malware. Sie versuchen, die Verantwortung für ihre schlechten Produktionsstandards nach außen zu geben, indem sie behaupten, es ginge nicht anders. Indem sie vor einem fiktiven zukünftigen Weltuntergang warnen, versuchen sie, andere zum Handeln zu zwingen.

    Tatsächlich produziert ihre Software aber nicht nur virtuelle Schäden, sondern sie bedroht die Existenz der Menschheit ganz unmittelbar. Große Sprachmodelle sind extrem ineffizient und ihr inzwischen allgegenwärtiger Einsatz verstärkt die sehr reale und gegenwärtige Klimakrise. Ihr Flächenverbrauch ist so riesig, dass ihr geplante Größe schon zum Teil damit angegeben wird, wie viele „Manhattans“ sie umfasst. Ihr Energieverbrauch ist so enorm, dass weltweit Dutzende neue fossile Kraftwerke geplant sind und ihr Wasserverbrauch bringt einige Gemeinden an ihre Grenzen.

    Super auf den Punkt gebracht!




  • Meiner Meinung nach ein anderer Aspekt der “unsere KI ist so intelligent und gefährlich, die wird uns alle umbringen!!!” Rufe:

    Das bewirkt auch eine Verlagerung von Verantwortung.

    Statt “wir haben eine schrottige unsichere Software gebaut, die” …

    • autonom Auto fährt, aber Radfahrer nicht erkennt, die ihr Fahrrad schieben (Tesla)
    • ein Cruise Missile in den Iran steuert, aber eine Grundschule voller Kinder mit einer Militärbasis verwechselt
    • Krankenhäuser für Terroristen hält (Palantir)
    • die Firmware der Motoren von Meier Maschinenbau & Co mal eben komplett umschreibt, so dass niemand mehr sie verstehen, reparieren oder warten kann
    • schrottige, vor Fehlern strotzende Medizinsoftware produziert (CompuGroup Europe)
    • über “Trainingsdaten” den Datenschutz weitgehend aushebelt
    • oder Fehler in Flugsoftware wie die Boeing 737 Max
    • immer verschrobenere Fehler in PKW Software
    • usw usw

    wird gesagt: “Tja, KI, zu intelligent, kann man nix machen”.

    Und das vor dem Hintergrund, dass die rechtliche und regulatorische Entwicklung in der EU eigentlich genau in die andere Richtung geht - die Position ist “Software ist ein Industrieprodukt wie andere Produkte auch, und der Hersteller muss Mängel zeitnah beheben und für Schäden haften”.

    Dieses Einfordern der Herstellerhaftung (die sonst für jedes Produkt auf dem EU Markt gilt, vom Kinder-Dreirad bis zum Großkran) gefährdet das verantwortungslose Geschäftsmodell der LLM Anbieter.