OpenAI: Verluste steigen durch ChatGPT-Entwicklung auf 540 Mio. Dollar OpenAi opensource
GPT-3 ist auch der Vergleichsmaßstab des in Deutschland ansässigen Start-ups Aleph Alpha. Dessen Luminous-LLM verfügt zwar „nur“ über 70 Milliarden Parameter, soll aber an die Leistung von GPT-3 mit rund 175 Milliarden Parametern– es ist also deutlich effizienter. Auch die kleineren LLaMA-Modelle mit 7 Milliarden Parametern sollen laut Metas Benchmark bereits mit GPT-3 mithalten.
Allein die Größe der Modelle ist nicht mehr ausreichend, um die Qualität und Performance zu beschreiben, heißt es in einer Analyse von . GPT-3 stammt noch aus dem Jahr 2022. Seitdem erfolgten Verbesserungen beim Finetuning, der Qualität der Trainingsdatensätze sowie der Hardware-Software-Optimierung, so dass nun kleinere Modelle ähnlich effizient arbeiten können.Bemerkenswert ist daher ein internes Memo eines namentlich nicht genannten Google-Mitarbeiters, das über einen Discord-Server publik wurde und nun beivorliegt.
Bereits jetzt – also wenige Monate nach dem Meta-Leak – zeichne sich ab, dass die Open-Source-Entwicklung deutlich effizienter abläuft und die Modelle anpassbarer an bestimmte Aufgaben sind. Open-source models are faster, more customizable, more private, and pound-for-pound more capable. They are doing things with $100 and 13B params that we struggle with at $10M and 540B. And they are doing so in weeks, not months.Der Mitarbeiter empfiehlt daher, Google solle eher auf die Open-Source-Bewegung zugehen, statt mit OpenAI um immer größere Modelle zu konkurrieren, die nicht flexibel genug bei der Entwicklung sind..
Malaysia Latest News, Malaysia Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Anonymer Google-Entwickler: Open Source wird Google und OpenAI den Rang ablaufenIn einem geleakten Dokument fordert ein leitender Entwickler Google zur Zusammenarbeit mit den sich rasant entwickelnden Open-Source-KI-Projekten auf.
Read more »
»ChatGPT kann die Bildung verbessern« - Uni-Präsident über die Zukunft des LernensBedroht künstliche Intelligenz das Lernen an Universitäten? Der Präsident der Frankfurter Goethe-Universität sieht das nicht so. Möglich sei im Gegenteil, dass Wissensvermittlung in Zukunft wieder persönlicher werde.
Read more »
Künstliche Intelligenz: ChatGPT kann laut Uni-Präsident Unterricht besser machenKI ist in der Lehre nicht mehr wegzudenken und sollte als Chance gesehen werden, findet ein Uni-Präsident. Gegen Schummeln weiß er ein Mittel.
Read more »
Macherqualitäten: ChatGPT & Co. steuern autonome AgentenForscher haben Sprachmodellen beigebracht, selbständig Aufgaben zu bearbeiten. Die Modelle steuern sich ein Stück weit selbst und interagieren mit ihrer Umwelt.
Read more »
'SparkDesk': iFlytek stellt chinesischen ChatGPT-Konkurrenten vorDas chinesische Spracherkennungsunternehmen iFlytek stellt 'SparkDesk' vor. Das Sprachmodell soll ChatGPT in chinesischer Sprache übertreffen.
Read more »