Modular ist ein Technologieunternehmen, das sich auf die Bereitstellung einer einheitlichen Plattform für KI-Inferenz spezialisiert hat. Ziel ist es, den gesamten Pfad von der Kernel- bis zur Cloud-Ebene für die Ausführung von KI-Workloads über heterogene Hardware wie GPUs und CPUs zu vereinfachen und zu optimieren. Das Angebot umfasst eine integrierte Software-Schicht, die Optimierungen von der untersten Kernel-Ebene über das Serving bis hin zu API-Endpunkten ermöglicht.
Das Produktportfolio besteht aus mehreren Komponenten: der zentralen AI Inference Platform, verschiedenen Typen von Inference Endpoints (shared, dedicated, custom models) sowie den quelloffenen Technologien MAX framework und der Programmiersprache Mojo. Der Einsatz ist sowohl in Modulares eigener Cloud als auch in einer Kunden-VPC möglich.
Die technischen Schwerpunkte des Unternehmens liegen in den Bereichen KI-Inferenz, KI-Compute-Optimierung, Compiler-Technologie und Hardware-Portabilität. In der Unternehmenskultur wird der Fokus auf die Entwicklung hochwertiger Produktionssoftware, Transparenz, Eigenverantwortung und eine ausgeglichene Work-Life-Balance betont.
