跳至主要内容

2 篇文章 含有標籤「AIGC」

檢視所有標籤

· 閱讀時間約 3 分鐘
Willis Chen

對於剛接觸人工智慧的學生來說，建立自己的聊天機器人可能聽起來有點遙不可及。不過，現在有越來越多的工具讓這個過程變得簡單。本篇文章會介紹如何使用 LM Studio 快速在筆電上實現大型語言模型（LLM）。

背景知識：大型語言模型與開源社群​

在開始之前，讓我們先簡單了解一下什麼是大型語言模型。簡單來說，它是一種能夠理解和生成人類語言的人工智慧模型。目前有很多開源的大型語言模型，像是 Meta 的 LLaMa 系列和 Hugging Face（簡稱 HF）的各種模型。

步驟 1：安裝 LM Studio 應用程式​

首先，請至 LM Studio 官網 下載適用於 Windows 或 Mac 的桌面應用程式。

LM Studio 下載頁面

步驟 2：選擇適合的模型​

安裝完畢後，打開 LM Studio。在首頁，你會看到最新或最熱門的模型資訊。使用搜尋框可以找到你需要的模型。例如，我搜尋 "Taiwan"，找到了一個名為 audreyt/Taiwan-LLaMa-v1.0-GGUF 的模型。

模型選擇

備註： 模型資訊通常會包含在 HF 的模型卡（Model Card）和相關的論文連結。

步驟 3：下載模型到本地​

選擇一個適合你硬體配置的模型進行下載。如果你的筆電不是高性能的，建議選擇小型的模型。

模型下載

步驟 4：開始與聊天機器人對話​

下載完成後，在左側選擇聊天頁籤。選擇你剛才下載的模型，等待模型加載完成後，就可以開始與聊天機器人對話了。

聊天界面

結論與後續步驟​

建立自己的聊天機器人是一個不斷演進的過程。儘管 LM Studio 提供了一個相當方便的平台，但要達到商業應用水平，還需要進一步的微調和量化調教。如果你想要更進一步，可以考慮使用 OpenAI、Azure、Google 或 AWS 等平台的 API 進行模型的微調。

希望這篇文章能幫助你更輕鬆地入手聊天機器人的建立，祝你在人工智慧的旅程中一切順利！

如果有任何問題或需要進一步的說明，歡迎留言。

· 閱讀時間約 2 分鐘
Willis Chen

hackmd-github-sync-badge

您也想要自己用AI繪圖嗎?​

  • 生成式AI ( AIGC ) 是2023年的顯學，開源的 AI 繪圖模型越來越多，在Civitai有非常多網友創作(需註冊，許多有年齡限制)，您也想自己嘗試嗎? 網路上已經有許多自行下載執行 Python 程式與模型，但就需要自備 GPU 顯卡。
  • 有網友在此 GitHub 整理諸多 AIGC 模型，而且可以用 Colab 直接產圖， Colab 是個可以免費暫時執行 GPU 運算的虛擬機，可執行 Python 及 Linux指令，您唯一要付出的是等待時間，一起來製作香香的圖吧。

在這個範例，您只要兩個步驟就可以完成囉:

  1. 打開以下 Colab ，一鍵執行以下程式碼，程式跑完會出現3個連結，點選第2個連結會開啟新分頁，是生圖的 UI 介面。
  2. 在介面新介面的 Text2Img 有兩個文字框，可以輸入以下兩個正向、負向語詞(Prompt)，
    • 正面語詞
      8k, RAW photo, best quality, masterpiece:1.2), (realistic, photo-realistic:1.4), ultra-detailed, (Kpop idol),perfect detail ,  looking at viewer,make up,
    • 負面語詞
      paintings,sketches, (worst quality:2), (low quality:2), (normal quality:2), lowres, normal quality, ((monochrome)), ((grayscale)), skin spots, acnes, skin blemishes, bad anatomy,(long hair:1.4),DeepNegative,(fat:1.2),facing away, looking away,tilted head, {Multiple people}, lowres,bad anatomy,bad hands, text, error, missing fingers,extra digit, fewer digits, cropped, worstquality, low quality, normal quality,jpegartifacts,signature, watermark, username,blurry,bad feet,cropped,poorly drawn hands,poorly drawn face,mutation,deformed,worst quality,low quality,normal quality,jpeg artifacts,signature,watermark,extra fingers,fewer digits,extra limbs,extra arms,extra legs,malformed limbs,fused fingers,too many fingers,long neck,cross-eyed,mutated hands,polar lowres,bad body,bad proportions,gross proportions,text,error,missing fingers,missing arms,missing legs,extra digit, extra arms, extra leg, extra foot,
  • 還可以img2img繼續生圖

Colab 遏阻了腳本指令濫用​

  • 鑒於越來越多人使用 Colab 跑 stable-diffusion，已經對前述 WebUI 的腳本操作封鎖，您可以有限制的使用或付費，但最好的情況是自行下載在自己的電腦跑，如果電腦運算資源夠的話。
  • 相信未來會有更適當的做法，像是 Bing 可以直接以文字繪圖(模型是 OpenAI 的 Dell.E)，或者使用 Leonardo.ai 就可以做出驚人的效果。

參考​