OWASP hat die erste Version der Top 10 Schwachstellen von LLMs vorgestellt. Mit dabei: Prompt-Injektion, unsichere Plugins und Leaken von Geschäftsgeheimnissen.
Von den zehn Punkten finden sich mögliche Schwachstellen in der Software-Lieferkette und unsichere Plugins auch außerhalb der KI-Domäne. LLM02 ist bei Sprachmodellen besonders gravierend, da die Systeme zu Halluzinationen genannten Fehlern neigen, aber durch ihre Bauweise auf die Nutzer besonders überzeugend wirken . Hier verstärkt die Technik das Problem Nutzer.
Besonders für KI ist dabei noch das Vergiften der Trainingsdaten , wobei Angreifer versuchen, Ergebnisse und Output von Modellen von Grund auf zu verfälschen. Hierbei spielt wieder die Glaubwürdigkeit der Modelle eine Rolle, aber auch zu viele Berechtigungen eines Chatbots können bei fehlerhaften oder manipulierten Ergebnissen zu unvorhergesehenen Konsequenzen führen.
Malaysia Latest News, Malaysia Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Das kann das „Arrow-3“-Flugabwehrsystem, das Deutschland von Israel kauftDie Fachpolitiker im Bundestag haben den Weg für das Milliardenprojekt einer modernisierten Luftverteidigung Deutschlands freigemacht. Die zuständigen Ausschüsse stimmten für den Kauf des israelischen Systems „Arrow 3“. Was kann das Flugabwehrsystem für Deutschland leisten?
Read more »
Samsung Galaxy S24 Ultra: Das erwartet euch mit dem neuen Top-SmartphoneSamsung wird die neuen Galaxy-S24-Smartphones zwar erst im kommenden Jahr offiziell vorstellen, doch schon jetzt sind ziemlich konkrete Informationen..
Read more »
Traumstrände, aber kaum Urlauber: Das ist das am seltensten bereiste Land der WeltNürnberg - Traumstände mit türkisfarbenem Meer, tropische Flora und Fauna und dazu noch stabile politische Verhältnisse – klingt eigentlich nach einem idealen Reiseziel. Doch trotz all der Vorzüge ist Tuvalu das Land mit den wenigsten Besuchern weltweit.
Read more »
Kult-Filmemacher verspottet Hollywood und das Publikum: „Das Einzige, was Geld einbringt, ist Müll“Auf dem Sarajevo Film Festival sprach Filmemacher Charlie Kaufman über den Status quo Hollywoods und bezeichnete die Filme der jüngsten Zeit..
Read more »