Onyx (früher "Danswer") ist ein persönlicher KI-Assistent und -chat, der es ermöglicht, mit Dokumenten, Websites und Daten aus diversen anderen Quellen zu "chatten". Onyx verwendet dafür - wie auch das populäre ChatGPT - ein Large Language Model (LLM), um Konversationen in natürlicher Sprache zu ermöglichen. Der große Unterschied: Onyx kann Wissen aus Dokumenten und Texten aus beinahe beliebigen Datenquellen indizieren und in Form eines Chat-Interfaces durchsuchbar zu machen. So kannst du der Chatbot Fragen zu sämtlichem im Unternehmen oder Verein verfügbaren Informationen beantworten. Und das ganz wichtig: die Daten verlassen dabei nicht unsere Server, um etwa an US-Unternehmen wie OpenAI oder Microsoft verschickt zu werden. Der Dokumenten-Chat kommt außerdem mit einer übersichtlichen und einfachen Benutzeroberfläche und speichert Konversationen auf Wunsch beliebig lange.
Abgesehen von Webseiten, sowie Dokumenten in .txt, .pdf, .docx, .pptx, .xlsx, und vielen weiteren Formaten werden u.a. folgende Datenquellen unterstützt: Slack, Gmail, Google Drive, Google Docs, GitHub, GitLab, Confluence, Jira, Notion, Sharepoint, BookStack, uvm.
Durch diese Vielzahl an Integrationen macht Onyx effektiv den gesamten Wissenschatz des eigenen Unternehmens per Chat durchsuchbar. Es ist wie ChatGPT, nur mit dem Wissen deines Teams! So kannst du Fragen stellen wie „Unterstützen wir bereits Feature X für einen Kunden?“ oder „Wo finde ich den Pull-Request für Feature Y?“ Außerdem kann der KI-Assistent mit Slack verknüpft anschließend aus Slack-Chats heraus aufgerufen werden.
Sprachmodell (LLM)
Onyx unterstützt folgende Sprachmodelle (wobei jedoch nicht alle bei server.camp verwendet werden können):
- OpenAI GPT-3.5 Turbo ⭐️
- OpenAI GPT-4 ⭐️
- LLaMA 3.2 3B (via ollama) ⭐️
- DeepSeek r1 (via ollama)
- Vicuna-7B (via FastChat)
- Mistral-7B (via GPT4All)
- viele weitere ...
In den Produktvarianten Startup und Business bieten wir Onyx inkl. aller benötigten Services (Vektordatenbank, Web-Crawler, Embedding Model, ...), jedoch ohne eigenes LLM an. Das heißt, als Sprachmodell für die Textgenerierung können lediglich externe Sprachmodelle, z.B. OpenAI GPT-4 (Achtung: in dem Fall verlassen deine Daten teilweise unsere Server!) oder selbst gehostete Alternativen, verwendet werden. In der Variante Corporate steht ein bei uns betriebenes LLaMA 3 zur Verfügung.
Funktionsumfang
- Chat-Oberfläche mit Möglichkeit, Dokumente für den Chat auszuwählen.
- Dokumentensuche + KI-Antworten für Abfragen in verschiedenen Sprachen
- Integration einem verschiedenen LLMs
- Konnektoren zu allen gängigen Arbeitsplatz-Tools wie Google Drive, Confluence, Slack, etc.
- Slack-Integration, um Antworten und Suchergebnisse direkt in Slack zu erhalten
- Umfangreiche Admin-Oberfläche für die Konfiguration
- Benutzerauthentifizierung und Berechtigungs-Management
- Single Sign-On via OpenID Connect oder SAML