Hosting

Placeholder Image
Autor:
Schaffer Alexander
Datum:
8/1/2024

Hosting


Allgemeine Beschreibung

Gastgeber: AZURE Cloud Services.

Frontend : nuxt 3.12 universelle APP

Backend: ist in C#/12 .NET/8.

Datenbank: MS-SQL

Benutzerverwaltung: OAuth/2 mit Refresh Token und JWT


Funktionen

Web-Socket: Instant Messaging-Streaming von Back-End-Batchprozessen mithilfe von SignalR.

Cloud-Speicher: Uploads funktionieren über signierte URLs in Anführungszeichen. Das Hochladen riesiger Datenmengen ist daher effizienter und auch im Hintergrund möglich.


LLM-Inferenz

Offene KI

Implementierung über APIs von OpenAPI. Die Anfragen werden an OpenAI gesendet, das nicht für sensible Anwendungen geeignet ist. Der Vorteil ist jedoch, dass die Standard-GUI von OpenAI mit der Dunudu GUI kombiniert werden kann. Beide Systeme sind synchronisiert.

AzureAI (Englisch)

Implementierung eigener Instanzen in Europa. Das bedeutet, dass in Europa verschiedene LLM-Implementierungen (OpenAI, Llama, Mistral, Bert etc.) möglich sind.

points