deepset entwickelt Haystack, ein quelloffenes Framework zum Aufbau von KI-Anwendungen auf Basis großer Sprachmodelle (LLMs). Das Framework verbindet Daten, Modelle und Geschäftslogik modular miteinander und ermöglicht so den Aufbau produktionsreifer Systeme – von Retrieval-Augmented-Generation-Anwendungen (RAG) über KI-Agenten bis hin zu Enterprise Search und intelligenter Dokumentenverarbeitung.
Ergänzend zu Haystack bietet deepset eine proprietäre Enterprise-Plattform an, die das Open-Source-Framework um Funktionen für Governance, Auditing, Monitoring und Transparenz über die gesamte KI-Pipeline erweitert. Die Plattform richtet sich an Organisationen, die LLM-Anwendungen zuverlässig und nachvollziehbar in produktiven Umgebungen betreiben wollen – unterstützt werden Deployments in der Cloud, in Virtual Private Clouds (VPC), On-Premise sowie in Air-Gapped-Setups.
Zusätzlich bietet das Unternehmen professionelle Dienstleistungen an, die Entwicklungsteams von der ersten Integration bis zur skalierten Nutzung in unternehmenskritischen Anwendungen begleiten. Das Angebot umfasst Beratung, Implementierungsunterstützung und laufenden Betrieb.
deepset adressiert mit seinem Produktportfolio Unternehmen aus den Bereichen Enterprise Software, Wissensmanagement und Dokumentenautomatisierung, die LLM-Technologie kontrolliert und skalierbar einsetzen möchten.