ConfiguratieGebruik van een zelf-gehoste LLM
Gebruik van een zelf-gehoste LLM
Je kunt een zelf-gehoste LLM gebruiken (bijv. via Ollama) om inhoud te vertalen.
Ga naar de Instellingenpagina bij Service Configuration > Self-hosted LLM en configureer de waarden.
| Instelling | Beschrijving |
|---|---|
| Endpoint URL | HTTP-endpoint-URL voor je zelf-gehoste LLM-model. Zie de voorbeelden hieronder. |
| Compatible with API endpoint from | Met welke AI-serviceprovider je aangepaste endpoint compatibel is: ChatGPT of Claude. |
| Model | Naam van het zelf-gehoste LLM-model dat gebruikt wordt bij het vertalen van inhoud. |
| Max tokens | Maximum aantal tokens dat het model in de respons kan genereren. Laat leeg voor geen limiet (ChatGPT) of gebruik de standaardwaarde voor Claude. |
Voorbeelden van Endpoint URL:
| URL | Beschrijving |
|---|---|
http://localhost:11434/v1/chat/completions | ChatGPT-formaat, Ollama op je server |
http://localhost:11434/v1/messages | Claude-formaat, Ollama op je server |
https://ollama.com/v1/chat/completions | ChatGPT-formaat, Ollama Cloud |
https://ollama.com/v1/messages | Claude-formaat, Ollama Cloud |
Als je de LLM op je eigen server host, heb je geen API-sleutel nodig.
Als je je zelf-gehoste LLM in de cloud gebruikt (bijv. met Ollama Cloud), moet je mogelijk een API-sleutel opgeven via het tabblad API Keys > Self-hosted LLM op de Instellingenpagina.
