PLUGIN_AI_PROVIDER

segro

Lustig, dass es zu den neuen AI / KI Features von Grommunio-Web noch keine Diskussion gibt ,-)

Für alle Interessierten wäre hier ein guter Start ;-)
vi /etc/grommunio-web/config-ai.php

// Local Ollama — fully sovereign, nothing leaves your server, no key needed.
// Install Ollama, then: `ollama pull llama3.1:8b`.
// define('PLUGIN_AI_PROVIDER', 'ollama');
// define('PLUGIN_AI_API_BASE', 'http://localhost:11434/v1');
// define('PLUGIN_AI_API_KEY', '');
// define('PLUGIN_AI_MODEL', 'llama3.1:8b');
//
// OpenAI:
// define('PLUGIN_AI_PROVIDER', 'openai');
// define('PLUGIN_AI_API_BASE', 'https://api.openai.com/v1');
// define('PLUGIN_AI_API_KEY', 'sk-...');
// define('PLUGIN_AI_MODEL', 'gpt-4o-mini');

MichaelN

das ist schick, welche lokale KI (ollama) würdet ihr für den Einsatz empfehlen ?

1of16

das heißt, dass das pauschal deaktiviert ist?
So wäre es gut, hatte schon überlegt zu fragen, wie man den Unfug abschalten kann.

crpb

1of16 das heißt, dass das pauschal deaktiviert ist?

Ja, OPT-IN! 😛

segro

Für alle die den "Unfug" trotzdme probieren wollen: Es funktioniert!

Sobald man z.b. den lokalen ollama eingtragen hat (auch übers netzwerk geht!) bekommt man einen neuen Reiter in den Einstellungen und dan nin Mail's ein "Sternchen" für die KI Funktionen... Hübsch gemacht.

crpb

Und was macht es dann?

segro

:-) auf dem unteren Screenshot habe ich z.B. oben rechts auf die Sternchen geklickt -> zusammenfassen. Dann geht das dort sichtbare Fenster auf mit einer Zusammenfassung der Mail.
Beim Schreiben gibt es dann auch Funktionen für "Text verbessern" oder Tonfall ändern oder übersetzen. Letzteres ist auf jeden Fall hilfreich.

herman324

Schön zu sehen, dass auch Ollama unterstützt wird. Für viele dürfte die lokale Lösung die bessere Wahl sein, weil die Daten den eigenen Server nicht verlassen.

segro

herman324 habe beides probiert, lokales ollama und die Modelle von z.b. ionos via API. Je nach eigener GPU Power geht sonst im prinzip jede openAI kompatible API.

segro

man kann aber auch z.B. über "Aktionen vorschlagen" lustige Vorschläge erhalten, z.B. Meeting organisieren um das Problem mit allen zu besprechen (beim klick, wird automatisch eine Einladung erstellt. Oder Antwort-Vorschläge generieren lassen:

Dann bekommt man ein preview, die man direkt übernhmen kann oder neu generieren oder oder oder... wirklich cooles Feature!

segro

Falls jemand die IONOS API benuten möchte:

define('PLUGIN_AI_PROVIDER', 'openai_compatible');
define('PLUGIN_AI_API_BASE', 'https://openai.inference.de-txl.ionos.com/v1');
define('PLUGIN_AI_API_KEY', 'xxxxxx');
define('PLUGIN_AI_MODEL', 'meta-llama/Meta-Llama-3.1-8B-Instruct');

Modell kann man natürlich irgendendeis der knapp 30 dort verfügbaren wählen.
Den API key einfach im https://dcd.ionos.com unter Management -> Token Manager erstellen.

MichaelN

Ich finde auch, sehr cooles Feature ...

2 Dinge sind mir noch auf-/eingefallen:

bei Grammatik & Rechtschreibung zeigt das Fenster im Titel noch ein & an
es wäre auch cool, wenn man noch ein Icon auf der Höhe wie "Neu Laden" oder "Drucken" hätte, was dann einen Reiter öffnen würde, wo man direkt mit der Ki chatten kann

Sumi

Frage!

Ich bekomme diese Antwort bzw. Fehlermeldung von ollama.
Wie kann ich das Problem beheben.

auf der Konsole funktioniert Ollama.

In der Config-ai.php wurde das aktiviert.
define('PLUGIN_AI_ENABLE', true);

define('PLUGIN_AI_PROVIDER', 'ollama');
define('PLUGIN_AI_API_BASE', 'http://localhost:11434/v1');
define('PLUGIN_AI_API_KEY', '');
define('PLUGIN_AI_MODEL', 'llama3.1:8b');

Und wenn ich den test im Plugin mache kommt das dabei raus von wegen der Verbindung.

Der Fehler ist dabei aufgetreten er sollte mir einfach einen text vom Englischen ins Deutsche aus einer Mail übersetzten.

vorallem was nicht verstehe wieso er was von der Google AI redet obwohl ich diese deaktiviert habe und nur Ollama aktiv habe. oder muss diese aktiv lassen?

Update: //define('PLUGIN_AI_MODEL_FAST', 'gemini-2.0-flash-lite');
in define('PLUGIN_AI_MODEL_FAST', ''); ändern dann geht es komplett über Ollama , der nachteil ist halt das die ausgabe schon recht langsam ist.