Danke für die Rückmeldung.
Ich glaube nicht, dass du mit dem Rasberry glücklich wirst.
Ich nutze für meine Tests eine GeForce RTX 4060 Mobile mit 8GB RAM onboard. Damit ist es erträglich. Aber ohne GPU Unterstützung empfinde ich es selbst auf einem AMD Ryzen 7 7840HS als nicht nutzbar.
Mir fehlt die Erfahrung, um zu erklären, warum der MCP-Server soviel Token belegt.
Die reine MCP-Definition ist aktuell 400 Bytes groß.
Context-Windows:
8000 Token sind nicht viel.
Wenn der MCP-Server die Aufgabe nicht passgenau beantworten kann (siehe unten), muss er die Information (z.B. Umsätze) erst in den Context-Window laden und sie dort filtern. Wenn du hier ein paar Umsätze von ein paar Monate filtern willst, erreichst du die Grenze des Context-Window sehr schnell.
Bei meinen Tests habe ich das Kontext-Windows auf mindestens 50.000 Token gesetzt.
Toolset vs. komplexere Aufgaben:
Im Moment liegt die Hauptaufgabe beim LLM. Die möglichen MCP-Befehle sind relativ einfach gestaltet.
Code
- hibiscus_transactions_list – Umsaetze auflisten
Listet Umsaetze mit Zeitraum-, Konto- und Limit-Filtern.
Eingabe-Schema:
{
"type": "object",
"properties": {
"accountId": {
"type": "string"
},
"to": {
"type": "string"
},
"from": {
"type": "string"
},
"limit": {
"type": "integer"
},
"all": {
"type": "boolean"
},
"lastDays": {
"type": "integer"
}
}
}
Man kann jetzt mehr Funktionalität (Filtern) auf den MCP-Server verlagern. Dafür wird dann aber die MCP-Definition länger und es wird mehr Context-Window belegt.
Ehrlich gesagt, bin ich hier auf die Rückmeldung von den Nutzern angewiesen bzgl. ihrem Nutzungsverhalten angewiesen. Wenn ich weiß, wofür der MCP-Server genutzt wird, kann ihn die Tooldefinition entsprechend erweitern.