فاین‌تیونینگ چیست؟

مدل‌های بزرگ روی حجم عظیمی از متن آموزش دیده‌اند. با fine-tuning، همان مدل را با مجموعه‌ی کوچک‌تری از مثال‌های ورودی و خروجی مطلوب شما دوباره تنظیم می‌کنید تا در یک کار مشخص یکنواخت‌تر عمل کند؛ مثلاً لحن برند یا قالب JSON ثابت.

قبل از fine-tuning، پرامپت بهتر و RAG را امتحان کنید؛ ارزان‌تر، سریع‌تر و قابل‌تغییرترند. fine-tuning برای تزریق دانش تازه ابزار مناسبی نیست و نیاز به داده‌ی تمیز و ارزیابی دارد.

مدل fine-tune شده باید نگهداری شود و با آمدن مدل‌های جدید ممکن است ارزش خود را از دست بدهد.

مثال کاربردی

یک شرکت می‌خواهد خروجی همیشه با یک قالب JSON مشخص و لحن برند باشد. ابتدا پرامپت و مثال‌ها را امتحان می‌کند؛ اگر ثبات کافی نبود و حجم زیاد بود، fine-tuning (در سرویسی که ارائه می‌دهد) را بررسی می‌کند.

چطور در عمل بررسی کنیم؟

بهترین راه یادگرفتن این مفهوم، دیدن آن در یک درخواست واقعی است. یک کلید بسازید، فهرست مدل‌ها را با /v1/models بگیرید، یک درخواست کوچک بفرستید و فیلدهای پاسخ (از جمله usage و finish_reason) را بخوانید. سپس همان درخواست را با پارامتر یا مدل دیگر تکرار و در داشبورد مصرف و هزینه را مقایسه کنید. نمونه‌های آماده در راهنمای cURL و راهنمای پایتون هست.

اصطلاحات نزدیک

• تولید مبتنی بر بازیابی: RAG روشی است که پیش از پاسخ، بخش‌های مرتبط از اسناد شما بازیابی و همراه پرسش به مدل داده می‌شود تا پاسخ بر پایه‌ی داده‌ی شما باشد.
• مهندسی پرامپت: مهندسی پرامپت نوشتن و بهبود دستورالعمل‌های ورودی مدل برای گرفتن خروجی دقیق‌تر، پایدارتر و مفیدتر است.
• مدل زبانی بزرگ: مدل زبانی بزرگ مدلی یادگیری عمیق است که روی حجم عظیمی از متن آموزش دیده و می‌تواند متن بفهمد و تولید کند.
• توهم مدل: توهم (Hallucination) وقتی است که مدل زبانی اطلاعات نادرست یا ساختگی را روان و مطمئن بیان می‌کند.

در پیکو هوش

پیکو هوش در حال حاضر سرویس fine-tuning ارائه نمی‌دهد و چنین قابلیتی را ادعا نمی‌کنیم.

اشتباهات رایج

• استفاده از آن برای افزودن دانش به‌روز.
• داده‌ی کم و بی‌کیفیت.