MeetKai發布Functionary-V2.4：OpenAI函數調用模型的替代方案
函數式是一種可以解釋和執行函數/插件的語言模型。
該模型確定何時執行功能，是並行還是並行，並且可以理解它們的輸出。它僅根據需要觸發功能。函數定義以SON模式對象的形式給出，類似於OpenAI GPT函數調用。
確保您已安裝PyTorch（2.1.2）。然後您需要安裝所需的依賴項
您現在可以啟動速度極快的vLLM伺服器。
如果您遇到依賴項問題並且您擁有nvidia-container-toolet，則可以啟動您的環境：
OpenAI-pPython v0和v1之間的區別可以參考官方文檔
確保llama-cpp-pPython已成功安裝在您的系統上。從v0.2.18開始，Functional v2已完全集成到llama-cpp-python中。您可以通過正常聊天完成推理，也可以通過llama-cpp-pony的OpenAI兼容伺服器（其行為與我們的類似）使用Functional的GGUF模型。
有關更多詳細信息，請參閱llama-cpp-pPython中的函數調用部分。使用llama-cpp-python的OpenAI兼容伺服器來使用我們的Functional GGUF模型
用例
旅行和酒店業-旅行規劃：功能plan_trip可以接受用戶輸入，例如「我想計劃一次以藝術和文化為重點的巴黎7天之旅」，並相應生成行程。
房地產估值：estimate_Property_Value等函數允許用戶輸入有關房產的詳細信息（例如位置、大小、房間數量等）並收到估計的市場價值。
通知-客戶支持：parse_customer_comment功能有助於從複雜的敘述性客戶投訴中提取結構化信息，並識別核心問題和潛在的解決方案。投訴對象可以包含問題、頻率和持續時間（問題發生的時間）等屬性。
快速閱讀： https://marktechpost.com/2024/04/08/meetkai-releases-functionary-v2-4-an-alternative-to-openai-function-calling-models/
Github頁面： https://github.com/MeetKai/functionary
高頻項目-小型： https://huggingface.co/meetkai/functionary-small-v2.4
高頻項目-中間： https://huggingface.co/meetkai/functionary-medium-v2.4
@meetkaiinc #商業情報
如果您想了解更多信息，可以單擊視頻下方的連結。
感謝您觀看此視頻。如果您喜歡，請訂閱並點讚。謝謝
視頻：