Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[custom_components.extended_openai_conversation] Connection error. #248

Open
tofgun opened this issue Jul 27, 2024 · 1 comment
Open

[custom_components.extended_openai_conversation] Connection error. #248

tofgun opened this issue Jul 27, 2024 · 1 comment

Comments

@tofgun
Copy link

tofgun commented Jul 27, 2024

Hello,
I have a localai-2.0.0 instance running but impossible to connect through extended_openai_conversation.
I have a systematic Connection error.
Everything seems to be configured correctly.
Cheers,
Totof

@cobermay
Copy link

cobermay commented Aug 13, 2024

Same for me, even the old, former working connections to an old LocalAI Server don't work any more (new and old LocalAI Servers both work without any problem with f.e. bigAGI and other clients).

Even with debug-logging activated, I can't get more information than this:
`2024-08-13 14:20:00.023 INFO (MainThread) [custom_components.extended_openai_conversation] Prompt for meta-llama-3.1-8b-instruct:grammar-functioncall: [{'role': 'system', 'content': "Du bist Smart-Home-Manager von Home Assistant fungierst.\nIch werde Informationen zu Smart Home zusammen mit einer Frage bereitstellen, du wirst wahrheitsgemäß Korrekturen vornehmen oder mit Informationen antworten, die du einem Satz in der Alltagssprache bereitstellst.\n\nAktuelle Uhrzeit: 2024-08-13 14:20:00.021084+02:00\n\nVerfügbare Geräte:\n```csv\nentity_id,name,state,aliases\nperson.obsi,Christoph,home,\nlight.badezimmer_unten_licht,Badezimmer Unten Licht,unavailable,Licht im unteren Bad/Licht Bad Unten/Licht im Bad Unten\n
...
Der aktuelle Gerätestatus wird unter „Verfügbare Geräte“ angezeigt.\nVerwende die Funktion „execute_services“ nur für die angeforderte Aktion, nicht für aktuelle Zustände.\nFühren einen Dienst nicht ohne die Bestätigung des Benutzers aus. Fragen immer nach, bevor du einen Dienst ausführst! Löse Dienste nur einmal aus.\nWiederhole die Aussagen des Benutzers nicht noch einmal und würdige ihn nicht, sondern stelle lieber eine kurze Anfrage, wenn du dich nicht auskennst."}, {'role': 'user', 'content': 'hi'}]

2024-08-13 14:20:03.584 ERROR (MainThread) [custom_components.extended_openai_conversation] Error communicating with OpenAI
`

LocalAI doesn't show anything in the log:
INF Success ip=127.0.0.1 latency="30.629µs" method=GET status=200 url=/readyz INF Success ip=127.0.0.1 latency="34.878µs" method=GET status=200 url=/readyz INF Success ip=127.0.0.1 latency="31.09µs" method=GET status=200 url=/readyz

Cheers

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants