AI 程式碼幻覺爆發！不存在的套件竟能滲透供應鏈

📌 1. 事件發生經過（發生時間）

2025年5月15日，發表報導指出，資安研究人員揭露大型語言模型（LLM）在生成程式碼時，會出現「幻覺套件」（package hallucination）現象。 這些由 AI 虛構出來的相依性並不存在於任何套件倉庫，卻可能被開發者誤信並引用，使供應鏈暴露於攻擊風險中。

🌐 2. 影響範圍

• 開發者與專案：開發流程中出現錯誤相依性導致部署失敗或導入未知模組，增加 debug 與資安風險。
• 軟體供應鏈：若攻擊者註冊與幻覺相符的套件，可能滲透自動部署流程，安裝惡意程式。
• 企業信任與資安：使用 AI 工具開發的企業恐因誤信幻覺代碼而讓惡意程式滲入系統。
• 整體 AI 生態：若無妥善控管，可能動搖產業對 AI 開發工具的信任基礎。

🛡️ 3. 補救防範措施

• 驗證 AI 生成內容：使用套件驗證工具檢查依賴是否存在並可信。
• 白名單與 Repository Pinning：限制只能安裝通過審核的套件，杜絕未知來源。
• 強化程式碼審查流程：對 AI 輸出的每段程式碼進行人工審查與測試。
• 限制自動引用權限：禁用 AI 自動加入相依性的功能，或以審核機制控管。
• 建立監控警示系統：在 CI/CD 流程中加入幻覺檢測工具，自動封鎖未知依賴。

🔗 4. 參考連結

• TechOrange 原文報導

📣 延伸閱讀推薦

• AI 程式碼供應鏈風險警示（DarkReading）
• OWASP：安全開發實務指南

---

大型語言模型（LLM）的使用優化概念整理

紀錄一下 2024/Q3 的進度

大型語言模型（LLM）的使用優化

依照業務需求、數據可用性、應用場景及系統設計考量，採用多種方式運用大型語言模型 (LLM)。

優化層級

提示工程 (Prompt Engineering)

使用提示直接應用預訓練模型，適合簡單需求。

檢索增強生成 (RAG)

通過外部知識增強生成，適用於需要額外資訊的場合。

微調 (Fine-tuning)

使用特定領域的數據進行優化預訓練模型，以應用於特定需求。

預先訓練 (Pre-training)

訓練模型從頭開始，適用於高度定制化的應用場景。

---

提示工程 (Prompt Engineering) 的特性與優勢

協作與共享見解

善於處理邊緣案例。

可以利用不同描述做實驗，避免偏見與不恰當內容的生成。

精確輸入與回應

使用提示作為輸入示例。

可包含上下文來提升模型表現。

使用完整句子生成更準確的回應。

利用提示進行微調。

輸出格式與持續優化

指定輸出格式，達到結果明確而具體。

設定適當的長度並進行測試和改進。

---

檢索增強生成 (RAG) 的工作原理

定義與目的

RAG 是將檢索方法與生成模型結合的混合技術。

模型在回答過程中運用外部知識資源，如資料庫、文件或預先存儲的知識。

工作流程

問題提出：用戶輸入問題後，RAG 系統利用智慧檢索器查詢相關資料。

資料檢索：從特定資料來源查詢文件和訊息。

生成回答：檢索到的資訊與問題一起送到語言模型，重組成為有條理的回答。

回答特性

明確引用外部資訊來源，回答具上下文關聯和準確性。

---

RAG とは何ですか？

定義

RAG (Retrieval-Augmented Generation) 是一種資料擴展生成模型的應用方法。

能利用檢索到的文檔進行資料擴展。

理論挑戰

將整份文件直接提供給模型參考不切實際，可能超出模型處理能力。

運作步驟

資料切片量化：資料切成小片段後量化儲存。

檢索生成：從量化後片段中找出最相似的片段，提升準確性。

---

RAG 資料切片量化

1. 載入資料

支援多種文件格式：CSV、PDF、JSON、DOCX、HTML 等。

2. 分割資料

將資料分割成較小的內容單位，便於處理。

3. 嵌入資料

將分割後資料轉換為向量表示。

4. 向量資料庫

儲存向量於資料庫，例如 FAISS、Chroma、Pinecone 等。

---

RAG 檢索生成流程

1. 將問題轉成向量

問題轉為向量格式。

2. 向量比對

在向量資料庫中檢索相似資料。

3. 檢索相關資料

找出最相關的多筆資料。

4. 語言模型生成

將相關資料和問題送入語言模型進行回答生成。

5. 得出結果

生成有條理且精確的回答。

---

實作雲端 LLM + RAG by n8n 課程

使用 n8n 平台整合 LLM 和 RAG，進行資料處理與對話功能。

Vector 資料庫準備

從 GitHub 獲取數據，提取資料並轉換為向量嵌入，儲存在 Qdrant 向量資料庫中。

對話功能

接收聊天訊息後，通過 OpenAI Chat Model 回應，並用「窗口緩衝記憶」儲存對話上下文。

組合區

工作流觸發器執行推薦嵌入、數據提取與合併，經推薦 API 分割與聚合，最終篩選出與 AI 代理最相關的字段。

2024/11/07

知識語料與BPM結合：如何讓AI助力企業實現更高效的業務流程

文章內容：

在當前快速變化的商業環境中，企業必須應對日益複雜的挑戰，特別是在零售與服務業中，數位轉型和顧客需求的變化成為首要課題。隨著人工智能（AI）技術的飛速發展，越來越多的企業開始將AI與業務流程管理（BPM）相結合，以提高運營效率、降低成本並增強顧客服務體驗。在這篇文章中，我們將探討AI如何與BPM協同工作，幫助企業提升業務運營的智能化和自動化。

數位轉型中的挑戰與需求

零售和服務業正面臨著數位化的重大挑戰，包括線上購物的興起、消費者行為的變化等。同時，顧客對個性化服務的需求日益增強，希望能夠享受量身定制的即時性服務。而在這個背景下，如何提高服務效率、減少人力成本，並在提升服務品質的同時保持競爭力，成為企業亟需解決的問題。

AI技術，特別是自然語言處理（NLP）和機器學習（ML），為這些挑戰提供了有力的解決方案。通過深入分析顧客反饋、社交媒體評論、銷售數據等信息，AI可以幫助企業預測顧客需求、提供個性化推薦，並進行庫存管理等工作，從而有效提升運營效率。

BPM與AI的融合：提升業務流程管理

業務流程管理（BPM）是一種系統化的管理方法，旨在設計、執行、監控和優化企業的業務流程。BPM的核心理念是將業務流程視為可持續改進的資產，不斷優化來提升效率、透明度和靈活性。對於企業來說，BPM不僅有助於降低運營成本，還能通過標準化流程改善顧客體驗，進而增強市場競爭力。

在BPM的框架下，企業可以對流程進行建模、監控並優化，利用工作流管理系統（WFMS）或BPM軟體來自動化和協調跨部門的合作。然而，隨著業務流程越來越複雜，傳統的人工管理方法已無法跟上需求。這時，AI技術的引入便顯得至關重要。

AI賦能BPM：智能化流程管理的未來

AI與BPM的結合，尤其是大語言模型（LLM）在知識語料分析中的應用，將使得業務流程管理更加智能化。例如，AI可以對來自顧客反饋、員工操作手冊、產品文檔等多種來源的知識語料進行分析，提取關鍵信息，並生成簡潔的摘要。這些智能結果可以直接輸入到BPM系統，觸發業務流程的自動化處理。

具體來說，AI可以幫助企業進行以下幾方面的操作：

1. 知識語料的分析與總結：AI首先通過文本挖掘、情感分析和主題建模等技術，從大量的非結構化數據中提取有價值的信息。例如，當AI發現顧客對某產品質量存在普遍投訴時，便能快速生成問題摘要，並進行情感分類。

2. 自動化任務分配與協作：AI將分析結果自動輸入BPM系統，系統會根據預定的業務規則，自動將相關任務分配給負責部門。例如，在顧客投訴的情境下，BPM系統會將問題分配給質量管理部門進行處理，並將進度更新推送給管理層，促進跨部門協作。

3. 持續優化與反饋循環：BPM系統能夠根據業務流程的運行數據進行反饋，並利用AI對新的數據進行學習和優化，提升未來流程的智能性和效率。這不僅能夠及時解決當前問題，還能夠實現流程的持續改進。

結語：實現業務流程的智能轉型

隨著AI和BPM技術的結合，企業將不僅能夠實現流程的自動化，還能夠實現智能化的業務運營。從知識語料的深度分析到流程管理的智能調度，AI賦能的BPM系統為企業提供了一個高效、靈活且能夠持續優化的運營框架。未來，隨著這些技術的進一步發展，企業將能夠更加精確地預測市場需求、改善顧客服務，並在激烈的市場競爭中脫穎而出。

AI和BPM的結合，無疑是企業數位轉型的必由之路，它將為企業帶來更高效的運營、更加個性化的服務以及更強的競爭優勢。

SLMの応用とAIデバイス市場の展望：技術革新と市場動向の分析

 要約：

2023年、生成AIに関連するアプリケーションが雨後の筍のように登場し、人工知能の新たな章を開きました。これにより、産業界と一般市民に前例のない創造力と知恵をもたらしました。

本文：

一、はじめに

2023年、生成AIに関連するアプリケーションが雨後の筍のように登場し、人工知能の新たな章を開きました。これにより、産業界と一般市民に前例のない創造力と知恵をもたらしました。また、IoTやスマートデバイスの普及により、エッジへの計算能力の移行傾向が顕著になり、エッジ小規模言語モデル（Small Language Models, SLM）も次第に注目を集めるようになりました。SLMはオフライン状態でリアルタイムのインテリジェントサービスを提供できるだけでなく、限られた計算リソースで効果的に新しいコンテンツやアイデアを生成することができます。例えば、テキスト、対話、画像、動画、音楽などです。生成AIの能力と組み合わせることで、エッジSLMはスマートデバイスの性能と効率を向上させるだけでなく、スマートシティからヘルスケア、産業自動化から個人用モバイルスマートデバイスまで、様々な場面で大きな可能性を示すでしょう。したがって、生成AIの出現はエッジSLMに新たな展望を開き、私たちが高い関心を持って深く探求する価値があります。

二、グローバル小規模言語モデル市場規模と発展傾向

(一)グローバル小規模言語モデルの市場規模

SLMとLLMの違いは、規模と能力だけでなく、その応用シーンと性能の表現にもあります。LLMは膨大なパラメータ数と広範なデータ学習能力を持ち、より複雑な言語構造を処理し、より正確な予測を生成できます。一方、SLMは規模は小さいものの、実行速度が速く、メモリと計算リソースの使用が少ないという利点があります。実際の応用では、異なるタスクの要件とリソースの制限に応じて適切な言語モデルを選択することが、AI応用の性能とコストに重要な役割を果たします。そのため、規模と性能のバランスを十分に考慮し、最適な応用効果を実現する必要があります。したがって、SLMとLLMの主な違いは、(1)規模と範囲、(2)トレーニング時間と計算リソース、(3)ドメイン専門知識、(4)多機能性にあります。

現在、多くの企業がSLMに注目しています。その計算効率、適応性、アクセス性の特徴から、エッジデバイスやクラウド環境への展開に非常に適しているためです。Valuates Reportsのレポートによると、2022年のグローバル小規模言語モデル市場規模は51.8億ドルで、2029年には171.8億ドルに成長し、2023年から2029年の年間複合成長率（CAGR）は17.8％になると予測されています。一般的な応用分野は、自然言語処理（NLP）タスク、情報抽出と要約、言語生成（コンテンツ生成、コード生成など）、多言語翻訳、インテリジェントアシスタントと対話システムなどです。

(二)主要な参入企業

SLM市場に参入している主要な国際企業は以下の通りです：

(1)Meta

Llama 2 – 7B：2023年7月、Metaは第二世代の大規模言語モデルLlama 2を発表し、7B、13B、70Bの3つのバージョンのパラメータを含んでいます。すべてのバージョンがLlama 1を上回り、モデルの性能、効率、アクセス性を明らかに強化し、広範なNLPタスクにより適合するようになりました。現在、7Bパラメータモデルは主に研究目的で使用されています。

Alpaca - 7B：Alpaca 7BはLlama-7Bの微調整版で、スタンフォード大学の研究者がLlama-7BとOpenAIのtext-davinci-003モデルを使用して生成したものです。トレーニングコストは600ドル未満でしたが、性能は良好で、Eメール作成、ソーシャルメディア、生産性ツールのタスクなどで、より大規模な言語モデルと比較できます。現在は主に学術目的で使用されています。

(2)Stability AI

Stable Beluga – 7B：Llamaモデルをベースに、Orcaスタイルのデータセットで微調整を行い、テキスト生成、翻訳、質疑応答、コード生成など、様々なNLPタスクで優れた性能を発揮します。Stability AIは、性能の向上、採用と統合の増加、専用バージョンの開発、オープンソースコミュニティへの貢献を表明しています。

Stable LM 2：2024年初めに発表された1.6Bパラメータの超小型言語モデルで、2兆のトークンでトレーニングされています。目的は使用のハードルを下げ、より多くの開発者が英語、スペイン語、ドイツ語、イタリア語、フランス語、ポルトガル語、オランダ語の7言語のデータを含むGen AIを使用できるようにすることです。性能は一般的に2B未満のパラメータを持つ他のモデルよりも優れています。

(3)Google

2023年12月、Googleはマルチモーダルモデルのgeminiを発表しました。Ultra、Pro、Nanoの3つのバージョンがあり、Ultraモデルが最大で機能も最も強力です。高度に複雑なタスク（カスタマイズされた専用コラボレーションパートナーなど）に使用され、企業や開発者に提供される予定で、2024年にはGoogle Bardに展開される見込みです。Proモデルは、ChatGPTに似ており、推論や計画能力を持ち、現在Bardで使用できますが、英語版のみです。Nanoモデルが最小で、Nano-1 1.8BとNano-2 3.25Bの2つのバージョンがあり、Androidスマートフォンでオフラインで実行できます。Nano-1は低メモリデバイス向け、Nano-2は高メモリデバイス向けで、現在Pixel 8シリーズとサムスンS24フラッグシップシリーズに統合されています。

(4)Microsoft

Phi-2 – 2.7B：2023年12月に発表され、トレーニングデータには科学、日常活動、心理学、高品質のウェブコンテンツが含まれています。同時に、マイクロソフトはPhi-2のパラメータ数を元の1.3から2.7Bに拡大し、モデルの性能と表現力を向上させました。Phi-2はエッジデバイスとクラウド向けに設計され、テキスト生成、言語翻訳、情報質問応答の面で優れた性能を示しています。

Orca 2：2023年11月に発表され、Orca 2には7Bと13Bの2つのバージョンがあり、いずれもLlama 2をベースモデルとし、大量の合成データをカスタムトレーニングで組み合わせたものです。マイクロソフトはLLMに関する知識を活用してSLMの能力を向上させることを目指しています。例えば、GPT-4の結果を段階的に説明する能力、段階的な思考プロセス、その他の複雑な指示への反応能力を学習し、ChatGPTを助教として指導を支援します。現在、これら2つのバージョンはHugging Faceで研究用に提供されています。

(5)Salesforce

XGenはSalesforce AIが発表した7BパラメータのSLMで、Llamaの7Bモデルに似ていますが、主な違いは上下文ウィンドウのシーケンス長をLlamaの2Kから8Kに増加させたことです。そのため、XGenの特徴は長文テキストや要約タスク、コンテンツ作成、ソフトウェア開発、言語学習などの処理に適していることです。

(6)アリババ

2024年初め、アリババはQwen 1.5シリーズの言語モデルを発表しました。Qwen 1.5はQwen AIの強化版で、0.5B、1.8B、4B、7B、14B、72Bなど、さまざまなサイズのパラメータモデルを提供し、異なる計算ニーズやアプリケーションを満たします。テキスト生成、翻訳、質疑応答、視覚、言語タスク、音声処理など、さまざまな応用に対応します。特にチャット機能が強化され、より一貫性のある文脈に関連した対話が実現されています。

(7)Mosaic ML

MPTはスタートアップ企業Mosaic MLが発表した7BパラメータのSLMです。その強みは、最大8千トークンの長文コンテンツを処理でき、長文の要点抽出と質疑応答において優れた性能を発揮することです。MPTの設計理念は生産性の向上にあり、その特長には正確なコードスニペットの生成、タスクの自動化、さまざまな創造的なテキスト形式による芸術表現の促進が含まれます。潜在的な応用範囲は、ソフトウェア開発、クリエイティブライティング、コンテンツ作成、教育、アクセシビリティツールなど、多岐にわたります。

(8)Technology Innovation Institute (TII) from the UAE

Falcon 7Bは、アラブ首長国連邦の技術革新研究所（TII）が発表したもので、チャットや質疑応答などの単純なタスクの効率を向上させることを目的としています。約1兆のトークンを含む膨大なテキストデータコーパスを処理するように設計されています。Falcon 7Bの発表により、ユーザーにより迅速で正確な処理能力が提供され、さまざまなテキスト関連アプリケーションに顕著な改善をもたらすでしょう。

(9)Hugging Face

ZephyrはHugging Faceが発表した7BパラメータのSLMです。ZephyrはMistral-7Bの微調整版で最適化処理が行われており、対話的なインタラクションの特性に焦点を当てているため、チャットボット、仮想アシスタント、その他のインタラクティブアプリケーションの最適な選択肢の1つとなっています。Zephyrは計算効率を確保できるため、さまざまなプラットフォームに容易に展開できます。

三、SLMのモバイルデバイス応用事例

前述のSLMモデルの集計から、現在のSLMモデルのパラメータは約7B前後で、少なくとも14GB以上のメモリが必要であり、一般的な消費者向けグラフィックカードでは実行できません。そのため、現在はリソース使用量を減らす方法や、チップ側からアプローチして計算性能を向上させる方法など、多くの研究が行われています。例えば、Apple M3、Intel Core Ultra、AMD Ryzen 8084シリーズはすべてAIアプリケーションを加速するために設計されており、AI PC市場に先行して布石を打っています。

MWC 2024展示会の観察から、Qualcommは狭帯域非地上ネットワーク（NB-NTN）衛星通信を統合した最初の5Gベースバンドチップ、Snapdragon X80 5Gチップを発表しました。ミリ波ネットワークに接続すると、伝送効率を60％向上させ、消費電力を10％削減し、特定の期間内で遅延を20％削減できるため、接続速度が速くなります。このシリーズは、AIスマートフォン、XRデバイス、PC、車両、産業用IoTデバイスなどに使用できます。QualcommはAndroidスマートフォンで7B以上のパラメータモデルを実行することを実証しました。例えば、テキスト、画像などの様々なタイプのデータ入力を受け付け、AIアシスタントを通じてテキスト生成や文章から画像生成などのアプリケーションを行うことができます。

Armは3つのCortex-A700シリーズCPUを通じて、AndroidスマートフォンでLlama2-7Bモデルを実行し、スマートフォンアプリケーションソフトウェアの仮想アシスタントの応答性が高く、迅速に返答でき、毎秒9.6トークンのテキスト生成速度を達成できます。また、MediaTekもこの展示会でDimensity 9300と8300の2つのプロセッサを展示し、Google Gemini Nano向けに設計されたことを強調しました。

中国のスマートフォンブランドTECNOは、GoogleやMediaTekと戦略的に協力し、TECNO AIOSを発表しました。主にGen AIをノートパソコンとスマートフォンに統合しています。例えば、Megabook T1 15.6ノートパソコンはIntel Core Ultraを採用し、オフラインで文章から画像を生成するのにわずか2-3秒しかかかりません。将来的には画像から画像、文章から表などのアプリケーションも展開予定です。Phantom V FoldとV Flipの2つの折りたたみスマートフォンはDimensity 9000+を搭載し、Google Gemini (nano)、Duet AI、Gmail AIなどのGoogle AIスイートを統合しています。これにより、ニーズに応じてメールの内容を生成し、内容の最適化、拡張、簡略化を行い、多言語翻訳もサポートしています。下半期にはDimensity 9300またはより先進的なDimensity 8300を採用した端末デバイスの発売が予定されています。

大手スマートフォンメーカーのサムスンが展示したGalaxy S24フラッグシップシリーズは、Google Pixel 8シリーズに続いて、2番目にGoogle Gemini Nanoを統合したスマートフォンです。サムスンは「モバイルAIの新時代を開く」と宣言し、生成AIが長期的な製品戦略に不可欠な要素になると指摘しています。Galaxy S24 UltraはTSMCの4nmプロセスを採用したQualcomm Snapdragon 8 Gen 3を主に使用し、8つの主要なAI機能を発表しました。これには通話中のリアルタイム翻訳、チャット翻訳、ライティングアシスタント、トランスクリプションアシスタント、ノートアシスタント、ブラウジングアシスタント、フォトアシスタント、サーチサークルなど、日常生活の様々なシーンが含まれ、ユーザーの対人コミュニケーションと創造性を向上させることを目的としています。

四、結論

SLMはトレーニングと推論の時間を短縮し、遅延を大幅に削減できるため、エッジデバイスや資源の限られた中小企業など、リソースが制限された環境に非常に適しています。国際的な大手企業もこれをビジネスチャンスと捉え、AI Phone、AI PC、ロボット、バーチャルヒューマンプラットフォームサービスに積極的に取り組み、多様でインテリジェント、かつ簡便なサービス体験を創造しています。クラウドサービス大手のAWS、Azure、Google CloudもホステッドAPIを通じて、企業の各分野に適用可能な小規模言語モデルサービスを提供しています。そのため、クラウドから端末まで、生成AIはユーザーとサービスの相互作用の方法を徐々に変えつつあります。

上記の分析から、スマートフォンとPCがよりインテリジェントなアップグレードの時期を迎えていることがわかりますが、市場の資金の流れを促進するかどうかはまだ観察が必要です。スマートフォンを例にとると、現在の一般的なスマートフォンの機能にはあまり差がなく、新しいAI Phoneの登場により、Gen AIアプリケーションサービスの多くは試験的なものであり、キラーアプリケーションはまだ登場していません。コストと価格設定がまだ高めの段階では、必ずしも買い替えを促すとは限りません。ユーザーのスマートフォンブランドへの愛着、製品のサービスの流暢さ、コストパフォーマンスなどが、スマートフォンを買い替えるかどうかを決定する主な要因です。AI PCに関しては、グローバルPC市場の需要は徐々に顕在化していますが、サプライチェーンの部材不足の状況はまだ解決されておらず、買い替え需要を引き起こすかどうかについて、台湾の業者は依然として慎重な姿勢を取っています。ただし、2025年にマイクロソフトがWindows 10のシステムアップデートのサポートを終了することで、AI PCの販売量を促進する機会があるかもしれません。

RAG (Retrieval-Augmented Generation) 的特性與優勢

1. 上下文相關性 (Contextual Relevance)

• 說明：RAG 能夠根據查詢的上下文檢索相關信息，從而生成更符合使用者需求的回答。
• 優勢：這樣能夠提高模型的準確性和針對性，增強用戶體驗。

2. 事實準確性 (Factually Accurate)

• 說明：通過從外部知識庫檢索資料，RAG 生成的響應可以包含最新和可靠的事實信息。
• 優勢：這減少了模型生成錯誤信息的風險，提高了回答的可信度。

3. 實時更新 (Real-time Updates)

• 說明：RAG 系統能夠實時檢索最新的資料，確保生成的響應反映最新的資訊和趨勢。
• 優勢：對於需要及時資訊的應用場景（如新聞、技術支援）尤其重要。

4. 增強學習能力 (Enhanced Learning Capabilities)

• 說明：RAG 結合了檢索和生成，能夠在多樣化的任務中學習和適應。
• 優勢：這使得模型能夠在不同的任務中保持高效能，適應更廣泛的應用場景。

5. 降低計算負擔 (Reduced Computational Load)

• 說明：通過利用外部知識庫，RAG 可以減少對大規模模型的需求，降低訓練和推理的計算資源。
• 優勢：這使得 RAG 系統在資源受限的環境中仍能有效運行。

6. 可擴展性 (Scalability)

• 說明：RAG 可以輕鬆集成新的知識來源，隨著資料庫的增長，模型的性能可以持續改善。
• 優勢：這使得系統能夠隨著時間和需求的變化不斷優化，保持競爭力。

提示工程 (Prompt Engineering) 的特性與優勢

1. 協作與分享見解 (Collaborate and Share Insights)

• 解釋：提示工程可以通過與不同團隊成員協作，共同創建和分享最佳提示設計，促進跨部門合作。
• 優勢：不同專業領域的專家可以分享他們的見解，優化提示，進一步提升模型的效果。

2. 利用提示進行微調 (Leverage Prompts for Fine-Tuning)

• 解釋：提示工程可以作為微調模型的一種輕量級方法，不需要完整的訓練過程，只需調整提示即可改善模型性能。
• 優勢：降低計算資源的消耗，同時針對特定任務達到精確的結果。

3. 避免偏見與不當內容 (Avoid Bias and Inappropriate Content)

• 解釋：透過設計謹慎的提示，可以避免模型生成偏見或不當內容，確保結果符合道德和專業標準。
• 優勢：降低誤導性或有害回應的風險，增強模型的可靠性。

4. 處理邊緣案例 (Handle Edge Cases)

• 解釋：提示工程能針對已知的邊緣案例進行調整，幫助模型處理少見或意外情況下的輸入。
• 優勢：提高模型在異常情況下的穩定性和準確性。

5. 測試與改進 (Test and Refine)

• 解釋：提示工程需要不斷測試和改進提示，以優化模型輸出。
• 優勢：通過反覆試驗來發現最佳的提示設計，進一步提高模型的性能。

6. 使用適當的長度 (Use Appropriate Length)

• 解釋：提示的長度應適中，既要提供足夠的資訊讓模型理解，又不宜過於冗長以免增加計算負擔。
• 優勢：保持提示簡潔而有效，提升模型回應的效率和準確度。

7. 明確與具體 (Be Clear and Specific)

• 解釋：提示應該具體而明確，避免模糊或廣泛的敘述，這樣才能讓模型產生準確的結果。
• 優勢：提高模型對指令的理解，減少不必要的錯誤。

8. 使用完整句子 (Use Complete Sentences)

• 解釋：提示中應使用完整的句子，這樣可以更清晰地表達需求，避免歧義。
• 優勢：讓模型更容易理解提示的意圖，生成更符合要求的回應。

9. 包含上下文 (Include Context)

• 解釋：在提示中包含相關的背景資訊，能幫助模型更好地理解任務的全貌。
• 優勢：提高模型對問題的理解，提供更準確且相關的回應。

10. 使用提示作為輸入範例 (Use Prompts as Input Examples)

• 解釋：可以將提示作為範例，向模型展示具體的輸入形式，以幫助它學習如何回應。
• 優勢：引導模型生成一致且有用的輸出。

11. 指定輸出格式 (Specify Output Format)

• 解釋：在提示中指定所需的輸出格式（如列表、表格或段落）可以幫助模型生成符合需求的內容。
• 優勢：確保模型的回應結構符合使用者的需求，增強使用體驗。

12. 試驗不同的措辭 (Experiment with Different Phrasings)

• 解釋：透過實驗不同的措辭，可以發現最佳提示來達成預期的效果。
• 優勢：更靈活地調整模型的回應，確保生成內容符合特定的目標。