غوغا به پا کرده Jev

این ویدیو در مورد مدلی به نام "جو" از شرکت تایپ‌سیف است. این مدل نه می‌نویسد، نه کد می‌زند و نه گفتگو می‌کند، اما یک مدل تصمیم‌گیری سریع و ارزان است. کار آن این است: شما یک موقعیت (متن ایمیل، تیکت پشتیبانی و...) و یک لیست از گزینه‌های از پیش تعیین‌شده (مثلاً آری/خیر، یا دسته‌بندی‌های مختلف) به آن می‌دهید و جو در حدود ۲۰۰ میلی‌ثانیه احتمال صحیح بودن هر گزینه را برمی‌گرداند. این برخلاف مدل‌های زبانی بزرگ است که توضیح طولانی می‌دهند، گران هستند و پاسخ‌دهی کندی دارند. جو یک "دسیژن مدل" یا طبقه‌بند است. در قیاس با کتاب "تفکر، سریع و کند"، مدل‌هایی مانند GPT سیستم ۲ (تفکر کند و تحلیلی) هستند و جو سیستم ۱ (تفکر سریع و غریزی) است. هزینه آن حدود ۴ سنت برای هر یک میلیون توکن ورودی است و عملاً برای توکن خروجی رایگان است، چون متنی تولید نمی‌کند. سرعت آن ۲۰ تا ۲۰۰ برابر مدل‌های معمولی است. کاربرد اصلی جو در جاهایی است که پاسخ‌ها از قبل مشخص است و نیاز به یک تصمیم سریع و مکرر وجود دارد. مثال‌ها عبارتند از: دسته‌بندی پیام‌های مشتریان (پرسش درباره محصول، قیمت و...)، تشخیص اسپم، طبقه‌بندی تیکت‌های باگ یا درخواست ویژگی جدید، اولویت‌بندی ایمیل‌ها، و مسیریابی درختی. یک کاربرد مهم، ایجاد "گاردیل" برای عامل‌های هوش مصنوعی است؛ مثلاً بررسی اینکه آیا یک دستور ترمینال خطرناک است یا خیر، قبل از اجرا. نحوه استفاده: به جو یک "استیت" (متن ورودی)، یک سؤال و "معیارها" (گزینه‌های تعریف‌شده همراه با معنای هر کدام) داده می‌شود. خروجی آن یک توزیع احتمال برای هر گزینه است (مثلاً ۷۳٪ اسپم، ۲۷٪ غیراسپم). کاربر می‌تواند گزینه با بالاترین احتمال را انتخاب کند یا یک آستانه اطمینان تعریف کند. اگر اطمینان مدل پایین بود، می‌توان تصمیم را به انسان واگذار کرد. مدل‌های مشابهی نیز وجود دارند. "OpenAI Decisions" سرویس مشابهی از اپن‌ای‌آی است. همچنین مدل‌های متن‌باز مانند "لایا" (با مجوز آپاچی ۲) و "CQ" روی پردازنده‌های معمولی نیز قابل اجرا هستند و عملکردی مشابه دارند. در خلاصه، جو برای تصمیم‌گیری‌های سریع و مکرر در جایی که گزینه‌ها مشخص است، ایده‌آل است. استفاده از مدل‌های زبانی بزرگ برای چنین کارهایی کند و پرهزینه است. جو این فرآیند را بسیار سریع و مقرون‌به‌صرفه کرده و برای توسعه دهندگان عامل‌های هوش مصنوعی بسیار کاربردی است.