litellm - инструмент, позволяющий вызывать все API-интерфейсы | Программист | IT | Техника

litellm - инструмент, позволяющий вызывать все API-интерфейсы (100+) LLM с использованием формата OpenAI.

Поддерживаемые поставщики включают OpenAI, Azure, AWS, Google, Cohere, Huggingface, VertexAI, TogetherAI и многие другие.