میزان

نسخهٔ جدید: Mizan v3

مدل هوش مصنوعی فارسی برای تصمیم‌گیری

میزان پیام‌های فارسی را می‌خواند و طبق قوانین کسب‌وکار شما تصمیم می‌گیرد؛ اینکه تیکت به کدام تیم برود، چقدر فوری است یا مشتری چه می‌خواهد. کنار هر تصمیم، درصد اطمینان مدل هم مشخص است.

امتحان دمودانلود از Hugging Faceراهکار سازمانی
Mizan v3

پیام مشتری

قوانین واحد هم همراه پیام فرستاده شده است.

سؤال ۱ از ۳
  • صورتحساب۲٫۴٪
  • شبکه۹۵٫۶٪
  • فروش۲٫۰٪
دقت روی ۳٬۰۰۰ پیام واقعی فارسی
۸۲٫۵٪
رتبه در بنچمارک مستقل، میان ۱۲ مدل
سوم
دقت در ۷۰٪ مطمئن‌ترین پاسخ‌ها
۹۲٪
زمان هر تصمیم
۵۵میلی‌ثانیه
حجم مدل؛ روی لپ‌تاپ هم اجرا می‌شود
۱٫۹گیگابایت

دمو

میزان چطور تصمیم می‌گیرد

برای هر پیام چند سؤال پرسیده می‌شود و هر سؤال گزینه‌های مشخصی دارد. میزان از میان گزینه‌ها یکی را انتخاب می‌کند و احتمال همهٔ گزینه‌ها را هم برمی‌گرداند. همهٔ اعداد این بخش خروجی واقعی Mizan v3 است.
ورودیپیام و قوانینی که به میزان داده می‌شود

ارجاع تیکت طبق قوانین شرکت

قانون ارجاع در خود درخواست نوشته شده است. میزان آن را می‌خواند و تیم مسئول، شدت مشکل و وجود کد پیگیری را مشخص می‌کند.

پیام مشتری

سلام، از دیروز اینترنت کل ساختمون ما قطعه، حدود ۴۰ واحد. کد پیگیری K48213

قانون ارجاع، داخل همان درخواست

ارجاع: قطعی و کندی ← شبکه؛ قبض ← صورتحساب. اگر شماره پیگیری نباشد، اول اطلاعات تکمیلی بخواه.

خروجی میزانانتخاب از میان گزینه‌ها، با درصد اطمینان

سؤال ۱این تیکت طبق قوانین به کدام تیم برود؟

  • صورتحساب۲٫۴٪
  • شبکه۹۵٫۶٪
  • فروش۲٫۰٪

سؤال ۲شدت مشکل در کدام سطح است؟

  • فقط یک نفرکمتر از ۰٫۱٪
  • ۲ تا ۱۰ نفرکمتر از ۰٫۱٪
  • ۱۱ تا ۱۰۰ نفر۹۹٫۶٪
  • بیش از ۱۰۰ نفر۰٫۴٪

سؤال ۳کاربر کد پیگیری داده است؟

  • بله۹۷٫۷٪
  • خیر۲٫۳٪
نتیجهکاری که بعد از تصمیم انجام می‌شود

۳ تصمیم خودکار

تیکت مستقیم به تیم شبکه ارجاع می‌شود و برچسب «۱۱ تا ۱۰۰ نفر» می‌گیرد. چون کد پیگیری در پیام هست، طبق قانون نیازی به درخواست اطلاعات تکمیلی نیست.

این نمونه از راهنمای مدل است و پاسخ‌ها خروجی واقعی Mizan v3 چهاربیتی‌اند.

در این دمو، انتخاب‌هایی که اطمینانشان بالای ۹۰٪ است خودکار اعمال می‌شوند. این آستانه فقط برای نمایش است؛ پیشنهاد ما این است که آستانهٔ واقعی را روی چند صد نمونهٔ برچسب‌خوردهٔ خودتان تعیین کنید.

ارزیابی

میزان در آزمون‌ها

عملکرد میزان را در سه ارزیابی جداگانه سنجیده‌ایم: یک بنچمارک مستقل، پیام‌های واقعی فارسی و آزمون پیروی از قوانین. توضیح و محدودیت هر آزمون کنار نتیجه‌اش آمده است.

رتبهٔ سوم، بعد از دو سرویس بزرگ API

امتیاز کل از ۱۰۰؛ عدد بیشتر بهتر است. مدل‌های «محلی» را می‌توانید روی سرور خودتان اجرا کنید و میزان در میان آن‌ها اول است.

  • ۱

    gpt-6-luna-decisions

    API

    ۹۲٫۱
  • ۲

    drex-v1.5

    API

    ۹۱٫۴
  • ۳

    Mizan v3 · Q4

    محلی

    ۹۱٫۱
  • ۴

    microsoft-decision-1

    API

    ۹۰٫۹
  • ۵

    Clef

    API

    ۸۹٫۸
  • ۶

    Jev 1.13

    API

    ۸۹٫۳
  • ۷

    Mizan 1.0 · Q4

    محلی

    ۸۹٫۲
  • ۸

    Clef-Flash

    API

    ۸۸٫۷
  • ۹

    mercury-decide

    API

    ۸۸٫۵
  • ۱۰

    Liquid d1

    API

    ۸۶٫۶
  • ۱۱

    decima-base

    محلی

    ۶۲٫۵
  • ۱۲

    Laya

    محلی

    ۵۶٫۹

کمترین خطا در تعیین سطح

در سؤال‌هایی مثل «شدت از ۰ تا ۳»، پاسخ میزان به‌طور میانگین کمترین فاصله را با سطح درست دارد؛ عدد کمتر بهتر است.

  • Mizan v3 · Q4

    ۰٫۴۵۸

  • gpt-6-luna-decisions

    ۰٫۴۷۹

  • Mizan 1.0 · Q4

    ۰٫۴۹۰

  • Clef

    ۰٫۷۲۹

  • Jev 1.13

    ۰٫۷۶۰

دربارهٔ این بنچمارک

بنچمارک Tasmim را یک پژوهشگر مستقل ساخته است و ۹۶ نمونهٔ فارسی دارد؛ شامل ارجاع، تعیین قدم بعدی و سطح‌بندی شدت، با قوانین فرضی، متن محاوره‌ای، فینگلیش، جمله‌های منفی و تعارف.

یک نکته

بخشی از داده‌های آموزشی v3 قالب سؤالی مشابه این بنچمارک دارد. هیچ نمونه‌ای از خود بنچمارک در آموزش استفاده نشده، اما بخشی از این نتیجه به آشنایی مدل با این قالب برمی‌گردد. با ۹۶ نمونه، اختلاف یک تا دو امتیاز در حد خطای اندازه‌گیری است. مشاهدهٔ بنچمارک

اطمینانی که می‌شود به آن تکیه کرد

خطای کالیبراسیون روی داده‌های واقعی؛ عدد کمتر بهتر است.

  • Mizan v3 · Q8

    ۰٫۰۵۸

  • Clef 27B

    ۰٫۰۷۵

  • Clef-Flash 9B

    ۰٫۰۷۸

  • Jev

    ۰٫۰۹۲

  • Mizan 1.0

    ۰٫۱۱۰

وقتی میزان می‌گوید ۹۰ درصد مطمئن است، در حدود ۹۰ درصد موارد درست می‌گوید. به همین دلیل می‌توانید تصمیم‌های مطمئن را خودکار کنید و بقیه را به کارشناس بسپارید.

۱٫۵ برابر سریع‌تر از نسخهٔ 1.0

میانهٔ زمان هر درخواست متنی، نسخهٔ چهاربیتی روی کارت گرافیک NVIDIA L4

Mizan 1.0 · Q4۸۰ ms
Mizan v3 · Q4۵۵ ms

نسخهٔ v3 حدود ۳۷ درصد محاسبهٔ کمتری از مدل پایه دارد. سرعت آن روی CPU هنوز اندازه‌گیری نشده است.

مدل‌ها

کدام نسخه را انتخاب کنم؟

برای بیشتر کارها Mizan v3 کافی است؛ پیام، تیکت، نظر مشتری یا هر دادهٔ متنی و JSON. اگر داده‌هایتان تصویر دارد، از Mizan v2 استفاده کنید.

Mizan v33B

پیشنهاد ما

متن و JSON را می‌خواند و از قوانینی که در خود درخواست می‌نویسید پیروی می‌کند. نسخهٔ چهاربیتی ۱٫۹ گیگابایت حجم دارد و روی لپ‌تاپ هم اجرا می‌شود.

  • ارجاع تیکت طبق قوانین شما
  • تعیین شدت و فوریت با معیارهای شما
  • پیشنهاد قدم بعدی به کارشناس
  • مدیریت محتوا و تشخیص تخلف
  • تحلیل نظر و بازخورد مشتری
  • تشخیص نیت و موضوع پیام
صفحهٔ مدلفایل GGUF

Mizan v24B

برای داده‌هایی که تصویر دارند، مثل فریم دوربین یا عکس فاکتور. حجم آن ۲٫۷ گیگابایت است، به‌علاوهٔ ۰٫۳۷ گیگابایت برای بخش بینایی.

صفحهٔ مدلدموی آنلاین

نسخه‌های قدیمی‌تر 1.0 و 1.5 هنوز به‌صورت تگ در مخزن Mizan v3 در دسترس‌اند، اما v3 جایگزین هر دو شده است. همهٔ مدل‌ها در مجموعهٔ میزان و صفحهٔ نیمروز در Hugging Face منتشر شده‌اند.

مسیر توسعه

از نسخهٔ اول تا v3 در سه روز

هر نسخه برای رفع ضعف‌های نسخهٔ قبل ساخته شد. معیار ما نتایج روی ۳٬۰۰۰ پیام واقعی بود که مدل هرگز در آموزش ندیده بود، نه آزمون‌های مصنوعی خودمان.
  1. 1.0

    Mizan 1.0

    ۱۹ مهر ۱۴۰۵

    اولین مدل تصمیم‌گیری فارسی

    مسئله
    مدل تصمیم‌گیری مخصوص زبان فارسی وجود نداشت.
    کاری که کردیم
    آموزش روی کارهای رایج کسب‌وکار، از مدیریت محتوا تا ارجاع تیکت.

    نتیجه

    ۷۸٫۷٪دقت روی داده‌های واقعی

  2. 1.5

    Mizan 1.5

    یادگیری از اشتباه‌های نسخهٔ قبل

    مسئله
    نسخهٔ اول روی داده‌های واقعی اشتباه‌های تکراری داشت.
    کاری که کردیم
    بازبینی ۱۸ هزار نمونهٔ واقعی و ساخت نمونه‌های تازه برای هر اشتباه.

    نتیجه

    ۸۲٫۰٪دقت روی داده‌های واقعی

  3. v2

    Mizan v2 · 4B

    اضافه شدن پردازش تصویر

    مسئله
    بخشی از داده‌های مشتریان تصویر بود.
    کاری که کردیم
    اضافه شدن بخش بینایی به مدل، کنار متن.

    نتیجه

    ۸۲٫۸٪دقت روی داده‌های واقعی

  4. v3

    Mizan v3 · 3B

    ۲۱ مهر ۱۴۰۵

    کوچک‌تر و پیرو قوانین شما

    مسئله
    کسب‌وکارها می‌خواستند مدل قوانین خودشان را اجرا کند.
    کاری که کردیم
    حذف ۱۲ لایهٔ آخر مدل و آموزش روی نمونه‌هایی که پاسخشان از قوانین می‌آید.

    نتیجه

    ۹۷٫۱٪پیروی از قوانین

دقت روی داده‌های واقعی

۷۸٫۷٪۸۲٫۵٪

از نسخهٔ 1.0 تا v3

پیروی از قوانین

۷۰٫۵٪۹۷٫۱٪

از نسخهٔ 1.0 تا v3

بنچمارک مستقل Tasmim

۸۹٫۲۹۱٫۱

از نسخهٔ 1.0 تا v3

زمان هر تصمیم

۸۰۵۵میلی‌ثانیه

از نسخهٔ 1.0 تا v3

یادداشت‌های پژوهشی

چرا v3 فقط ۲۰ لایه دارد، داده‌ها را چطور ساختیم و چرا می‌شود به درصدهای میزان اعتماد کرد.

شرح کامل این چهار نسخه، همراه با نمودارها و محدودیت‌ها.

خواندن یادداشت‌ها

برای توسعه‌دهندگان

راه‌اندازی با سه دستور

میزان با llama.cpp اجرا می‌شود و API آن با /v1/systemone سازگار است. اگر پیش‌تر از سرویس Jev استفاده کرده‌اید، کدتان نیازی به تغییر ندارد.

  1. ۱نصب llama.cpp

    $ brew install llama.cpp

  2. ۲دانلود Mizan v3 (۱٫۹ گیگابایت)

    $ hf download Nimruz/Mizan-v3-3B-GGUF mizan-v3-3b-Q4_K_M.gguf --local-dir .

  3. ۳اجرای سرور

    $ llama-server -m mizan-v3-3b-Q4_K_M.gguf -c 8192 -b 8192 -ub 8192 -ngl 99 --port 8080

به llama.cpp نسخهٔ b11443 یا جدیدتر نیاز دارید. برای اجرا فقط روی CPU، مقدار -ngl 0 را قرار دهید.

bashاولین درخواست
curl http://localhost:8080/v1/systemone \
  -H "Content-Type: application/json" \
  -d '{
    "state": {"review": "غذا سرد رسید و پیک هم خیلی بداخلاق بود"},
    "questions": {
      "sentiment": {"type": "choice", "instructions": "حس کلی مشتری چیست؟",
                    "criteria": {"positive": "راضی", "negative": "ناراضی"}},
      "refund": {"type": "noul", "instructions": "آیا مشتری درخواست بازگشت پول کرده؟"}
    }
  }'
jsonپاسخ واقعی Mizan v3 چهاربیتی
{"answers": {
  "sentiment": {"type": "choice", "choice": "negative", "confidence": 0.989,
                "probabilities": {"negative": 0.989, "positive": 0.011}},
  "refund":    {"type": "noul", "noul": 0.040}
}}

choice

انتخاب یک گزینه

noul

احتمال «بله»

score

سطح موردانتظار

صفحهٔ مدل و راهنمای کاملفایل‌های GGUFمجموعهٔ میزان

میزان برای سازمان‌ها

میزان را روی داده‌ها و سرورهای شما راه‌اندازی می‌کنیم

کار با چند صد نمونهٔ واقعی از داده‌های شما شروع می‌شود. ابتدا می‌سنجیم میزان کجا مطمئن است و کجا نه، و آستانهٔ خودکارسازی را با هم تعیین می‌کنیم. سپس مدل را روی داده‌های شما آموزش می‌دهیم و روی سخت‌افزار خودتان مستقر می‌کنیم.

گفت‌وگو با تیم نیمروز

  • آموزش روی داده‌های شما

    میزان را با نمونه‌ها، برچسب‌ها و خطاهای واقعی کسب‌وکار شما تنظیم می‌کنیم.

  • قوانین و دسته‌بندی‌های اختصاصی

    قوانین ارجاع، معیارهای شدت و دسته‌بندی‌های خودتان را تعریف و آزمایش می‌کنیم.

  • اجرا روی سخت‌افزار خودتان

    یک کارت گرافیک ۸ گیگابایتی کافی است و به هیچ API خارجی وابسته نیستید.

  • نصب داخلی، بدون خروج داده

    داده‌ها از شبکهٔ سازمان شما خارج نمی‌شوند. نصب و راه‌اندازی روی زیرساخت داخلی را ما انجام می‌دهیم.