Deine die Aufgabe ist, eine strukturierte und ausführliche Zusammenfassung zu erstellen. Unten findest du einige Abschnitte aus verschiedenen Quellen sowie ein Quellenverzeichnis. Für deine Analyse musst du Textabschnitte sowie die Quellen verwenden. Denke Schritt für Schritt, um eine sinnvolle Struktur zu etablieren. Beschreibe die Idee, die Lösung, Technologiepartnerschaft, strategische Aussichten und weitere Tools. ++ Abschnitte The model is capable of the following tasks: - Generating Bloomberg Query Language (BQL) - Providing suggestions for news headlines - Answering financial questions [Q-132] Datensatz: It is trained on a large general corpus (345B tokens), and a large financial corpus (363B tokens). The financial corpus, FinPile, contains data collected from the web, news, filings, press, and Bloomberg’s proprietary data. BLOOM architecture (etwas veraltet) Chinchilla style limitations on data vs model size [Q-131] ABER We demonstrate that ChatGPT and GPT-4 can outperform the most recently released domain-specifically pretrained model as well as fine-tuned models on many tasks. We provide detailed analysis and recommendations. --> Fazit: BloombergGPT - Datesatz zu klein: - 700B tokens gegen 3T für Llama - Datensatz zu offen - nur 0.7% des Datensatzes kommt von Bloomberg - fine tuning wäre besser - aber: paper im März 2023, Entwicklung wahrscheinlich Ende 2023 --> kein Llama verfügbar --> training? Fragwürdig ++ Quellenverzeichnis 128. bloomberggpt announcement https://www.bloomberg.com/company/press/bloomberggpt-50-billion-parameter-llm-tuned-finance/?utm_source=pocket_saves 129. BloombergGPT paper https://arxiv.org/pdf/2303.17564 130. BloombergGPT rebuttal paper https://arxiv.org/pdf/2305.05862 131. FinLLMs https://browse.arxiv.org/pdf/2402.02315v1 132. BloombergGPT post https://medium.com/codex/bloomberggpt-the-first-large-language-model-for-finance-61cc92075075 --- > generate with ChatGPT --- alle überschriften als ### markdown titel trenne jeden abschnitt mit --- und füge 2 leere zeilen davor und danach