Track A
Route
In BearbeitungHow do we compose many models and providers behind one reliable interface?
Diese Seite beschreibt unsere Forschungsagenda. Statusangaben zeigen, was geplant, in Bearbeitung oder abgeschlossen ist.
Warum das wichtig ist
Organisationen brauchen eine zuverlässige Schnittstelle über viele Modelle und Anbieter, mit Privatsphäre und Rechtsraum als Regeln erster Ordnung.
AI-Pass ist die Infrastruktur-Schicht, in die die anderen Tracks einhängen.
Richtungen
- 1.Routing als gelernte Richtlinie über vorhergesagte Qualität, Kosten, Latenz, Datensensitivität und Rechtsraum.
- 2.Heterogenität der Anbieter: Schema-Drift, Fehlermodi und stille Modellupdates.
- 3.Souveränitätsvorgaben als Routing-Regeln erster Ordnung mit nachvollziehbarer Durchsetzung.
- 4.Gemessene Modularität: Kosten eines neuen Anbieters und Overhead gegenüber Direktaufrufen.
Routing-Entscheidung
KonzeptionellEine Anfrage trifft auf Randbedingungen und eine Policy-Engine, danach Anbieteroptionen.
Anfrage
Aufgabe hinein, mit Datensensitivitätsklasse.
Randbedingungen
- Privatsphäre
- Rechtsraum
- Kosten
- Latenz
Policy-Engine
Gelerntes Routing über vorhergesagte Qualität und Randbedingungen.
Anbieter
Zulässige Modelle und Laufzeiten nach der Richtlinie.
Das Diagramm steht auch als Tabelle darunter.
Als Tabelle anzeigen
| Schritt | Detail |
|---|---|
| Anfrage | Aufgabe hinein, mit Datensensitivitätsklasse. |
| Randbedingungen | Privatsphäre, Rechtsraum, Kosten, Latenz |
| Policy-Engine | Gelerntes Routing über vorhergesagte Qualität und Randbedingungen. |
| Anbieter | Zulässige Modelle und Laufzeiten nach der Richtlinie. |
Geplante Metriken
Metriknamen aus der Forschungsagenda. Werte bleiben ausstehend, bis results.json eine Zeile hat.
Routing regret
Ausstehend
Cost per request
Ausstehend
Latency overhead
Ausstehend
Policy-violation rate
Ausstehend
Time to onboard a provider
Ausstehend
Das Diagramm steht auch als Tabelle darunter.
Als Tabelle anzeigen
| Metrik | Wert |
|---|---|
| Routing regret | Ausstehend |
| Cost per request | Ausstehend |
| Latency overhead | Ausstehend |
| Policy-violation rate | Ausstehend |
| Time to onboard a provider | Ausstehend |
Verbunden mit
Mit HOPN Lab arbeiten
Forschende können sich über EHOPn bewerben. Die Agenda ist öffentlich. Ergebnisse bleiben ausstehend, bis Messungen vorliegen.