標籤: LLM

分類
AI

LLM Security Leaderboard大語言資安排行榜

從這裡看來的: https://blogs.cisco.com/ai/llm-security-leaderboard

Cisco 透過技術方法來分析與檢討目前坊間的LLM大語言模型的資安能力, 希望透過這樣的方式來評估現有的LLM於應用時應該要補強或留意之處.

排行榜在這裡: https://leaderboard.aidefense.cisco.com/rankings

看起來 Anthropic 的 Opus, Sonnet, Haiku 都有不錯的表現, 其他大廠的LLM也都不惶多讓, 透過右上角的 All Models 的切換, 我們可以看到所有被測試的 LLM 表現.

測試的方法在這裡可以看到: https://leaderboard.aidefense.cisco.com/methodology

分類
好用軟體

在本地端執行DeepSeek模型

最近火熱的 DeepSeek LLM模型, 你玩過了嗎?

其實也可以很容易地在地端執行這個 LLM模型, 當然也可以執行其他廠家的 LLM模型. 使用的工具為這個十分好用的 ollama:

https://ollama.com/

ollama 這個開源工具是用來簡化在地端執行這些 LLM模型的工具, 方便快速地可以在本地部署執行環境, 而且也可以在本地提供 API服務的功能.

先來看看在 Windows/Mac/Linux 下如何運行, 它將執行環境打包可以下載的安裝檔, 安裝完成後是利用 console 來執行互動式指令, 以 Windows 為例, 先下載一個安裝程式, 安裝完成後, 利用 console 來執行, 常用指令如下:

閱讀全文 “在本地端執行DeepSeek模型”