簡介:
本貼介紹了如何使用聆思CSK6大模型開發(fā)板接入文心一言做一個可以語音交互的AI助手。
當前方案是把開發(fā)套件當做輸入端,交互內(nèi)容先上傳到聆思的大模型平臺(LSPlatform),然后平臺再根據(jù)匹配的應(yīng)用策略轉(zhuǎn)給后端的大模型處理;隈鏊即竽P推脚_**的應(yīng)用編排功能,我們?nèi)绻褂闷渌竽P,只需要從云端更改大模型接入?jié)點,而無需去修改硬件端。
首先,需要在LSplatform上創(chuàng)建新應(yīng)用并導入文心一言示例工程。(工程文件可以從附件文檔中獲得)
然后配置包括HOST、AK/SK、Model和Stream等參數(shù),部署驗證成功后,將云端服務(wù)與產(chǎn)品配置綁定。
在云測試頁面交互返回如上圖信息,就可以在CSK6開發(fā)板設(shè)備端寫入云端產(chǎn)品服務(wù)配置,無需修改固件即可實現(xiàn)語音交互。
實操詳情請參考附件。