TypeSafe AI از Jev، مدل تصمیمگیری برای اتوماسیون رونمایی…
این استارتاپ میگوید Jev خروجیهای ساختاری احتمالی را در ۷۰ تا ۵۰۰ میلیثانیه بازمیگرداند و قیمت توکنهای خروجی را ۰ دلار تعیین میکند.
TypeSafe AI مدل Jev را منتشر کرده است، یک مدل "بومی ماشین" که تصمیمات احتمالی تایپشدهای را برمیگرداند که برای مصرف توسط نرمافزار طراحی شدهاند نه کاربران چت. این شرکت سیستم را به عنوان مسیری سریعتر و ارزانتر برای جریانهای کاری قابل اعتماد معرفی میکند، با ادعاهای مربوط به تأخیر و قیمتگذاری که در مقابل LLMهای اصلی قرار دارد.
نکات کلیدی
- TypeSafe AI مدل Jev را منتشر کرده است، یک مدل هوش مصنوعی که تصمیمات احتمالی تایپشده و ساختار یافتهای را به جای پاسخهای زبان طبیعی تولید میکند.
- این استارتاپ اعلام کرد که ۴۰ میلیون دلار سرمایهگذاری دارد و Jev را برای اتوماسیون پاسخهای محدود مانند مسیریابی جریان کاری و سیستمهای فراخوانی ابزارها معرفی میکند.
- TypeSafe AI زمانهای پاسخ ۷۰ میلیثانیه تا ۵۰۰ میلیثانیه را ادعا کرد و Jev را به عنوان "۴۰ برابر تا ۲۰۰ برابر سریعتر از LLMهای سنتی" معرفی کرد و به پردازش موازی و طراحی "سیستم یک" اشاره کرد.
- Jev با قیمت ۰.۰۴۲ دلار به ازای هر میلیون توکن (MTok) برای ورودی و ۰ دلار برای خروجی فهرست شده است، و یک دمو از TypeSafe زمانهای پاسخ ۰.۱۱۴ ثانیه را در مقابل ۸.۵۶۶ ثانیه برای GPT-5.6 Terra از OpenAI نشان داد.
Jev به عنوان مدلی که برای ماشینها ساخته شده است، نه چت، معرفی میشود.
مدل جدید TypeSafe AI، Jev، بر اساس یک پیشفرض ساده ساخته شده است: بسیاری از جریانهای کاری عامل نیازی به نثر ندارند. آنها به یک شیء تصمیم نیاز دارند که یک برنامه بتواند بدون نیاز به پردازش دوباره، اعتبارسنجی و محدودیتها مصرف کند.
به جای بازگرداندن زبان طبیعی به یک درخواست، Jev تصمیمات احتمالی تایپشدهای را بازمیگرداند، به این معنی که خروجی یک نوع داده از پیش تعریفشده مانند انتخاب دسته یا امتیاز است، همراه با احتمالات. TypeSafe به وضوح این را به عنوان "هوش مصنوعی بومی ماشین" معرفی میکند، یک تغییر از رابطهای چتمحور که در آن محصول اصلی مدل متن است.
این شرکت اعلام کرد که ۴۰ میلیون دلار سرمایهگذاری دارد و خود را به عنوان سازنده مدلهای مرزی توصیف کرد. دیوگو آلمیدا، یکی از بنیانگذاران و مدیرعامل TypeSafe AI، که به عنوان یک محقق سابق OpenAI و "یکی از هماختراعات" یادگیری تقویتی از بازخورد انسانی (RLHF) و ChatGPT شناخته میشود، هدف را ساخت هوش برای مصرفکنندگان نرمافزار، نه فقط انسانها، توصیف کرد.
آلمیدا گفت: "TypeSafe برای پیگیری یک مسیر جایگزین برای تحقیقات هوش مصنوعی تأسیس شد، متمرکز بر هوش مصنوعی بومی ماشین." "من سالها روی مدلهایی کار کردم که طراحی شده بودند تا هوش مصنوعی را در تعامل با مردم بهتر کنند. اما اگر هوش مصنوعی قرار است به طور بنیادین نحوه انجام کار را تغییر دهد، مردم نمیتوانند تنها مصرفکنندگان هوش باشند."
ادعاهای سرعت و قیمت: تأخیر 70–500 میلیثانیه و توکنهای خروجی 0 دلار
پیشنهاد راهاندازی TypeSafe به شدت بر دو اصل که معاملهگران واقعاً در روایتهای زیرساخت هوش مصنوعی به آن اهمیت میدهند، تکیه دارد: تأخیر و اقتصاد واحد.
در مورد عملکرد، TypeSafe ادعا کرد که زمان پاسخ Jev بین 70 میلیثانیه تا 500 میلیثانیه متغیر است و گفت که "40 برابر تا 200 برابر سریعتر از LLMهای سنتی است." مکانیزم ارائه شده، معماری است. مدلهای بزرگ زبان سنتی متن را به صورت ترتیبی با پیشبینی توکن بعدی تولید میکنند، در حالی که Jev به عنوان یک مدل "سیستم یک" توصیف میشود که تمام خروجیها را به یک پرسش به صورت همزمان بازمیگرداند و از پردازش موازی استفاده میکند.
TypeSafe همچنین یک مقایسه مستقیم دمو را در وبسایت خود منتشر کرد: Jev در 0.114 ثانیه پاسخ میدهد در مقایسه با 8.566 ثانیه برای GPT-5.6 Terra از OpenAI. این بسته شامل ارزیابی مستقل نیست، بنابراین اعداد باید به عنوان عملکرد ادعایی فروشنده تحت یک تنظیم دمو خاص خوانده شوند.
در مورد قیمتگذاری، TypeSafe قیمت Jev را 0.042 دلار به ازای هر MTok برای ورودی و 0 دلار برای خروجی اعلام کرد. همان ماده این را با GPT-5.6 Terra از OpenAI که 2.00 دلار به ازای هر MTok ورودی و 12 دلار به ازای هر MTok خروجی است مقایسه کرد و ادعا کرد که Jev 238 برابر ارزانتر از یک "مدل سطح بالا مانند Fable 5.1" است. این مقایسهها از نظر جهتگیری واضح هستند، اما توسط منابع اضافی در بسته تأیید نشدهاند.
شرط بزرگتر آشناست: اگر هزینه حاشیهای "تفکر" کاهش یابد، استفاده گسترش مییابد. TypeSafe حتی این را در نام خود گنجانده است. "Jev" به اقتصاددان ویلیام استنلی جونس و پارادوکس جونس اشاره دارد، ایدهای که میگوید افزایش کارایی میتواند مصرف کل را افزایش دهد نه اینکه آن را کاهش دهد.
داخل رابط: انتخاب/امتیاز/نول و خروجیهای نوعی احتمالی
رابط Jev به گونهای طراحی شده است که کمتر شبیه چت و بیشتر شبیه یک فراخوانی تابع باشد.
یک توسعهدهنده با یک "مقدار حالت" شروع میکند، که میتواند یک شیء JSON یا یک رشته ساده مانند "کارت من دو بار شارژ شد" باشد. سپس Jev آن حالت را از طریق اصول سوالی به نام انتخاب، امتیاز و نول دریافت میکند. هر اصل یک نوع پاسخ ساختاریافته متفاوت با احتمالات را بازمیگرداند، که نکته اینجاست: خروجی از قبل برای نرمافزار شکلگیری شده است.
مثال TypeSafe برای مسیریابی خدمات مشتری، تمیزترین تصویر است. یک سوال که میپرسد کدام یک از سه بخش باید به یک پرسش رسیدگی کند، توزیع احتمال را بازمیگرداند: {"billing": 0.08, "technical": 0.85, "sales": 0.07}، با نمره اطمینان 0.82. برای یک انسان، این awkward است. برای یک موتور جریان کار، این یک تصمیم مسیریابی آماده با یک معیار عدم قطعیت صریح است.
TypeSafe جیف را به عنوان یک مدل "سیستم یک" توصیف کرد که از معماری به نام یادگیری تقویتی برای تصمیمات کالیبره شده (RLCD) استفاده میکند.
پیشنهاد قابلیت اطمینان این شرکت به تماسهای ابزاری معطوف است، به این معنی که یک عامل یک تابع خارجی را فعال میکند یا"API".TypeSafe استدلال کرد که "داشتن یک تماس ابزاری توهمی در یک عامل ناراحتکننده است، اما اگر بخشی از یک سیستم با تضمینهای تأخیر باشد یا در چندین لایه عمیق در زنجیره وابستگی دفن شده باشد، یک مانع مطلق است" و افزود: "مدلهای موجود، مهم نیست چقدر هوشمند باشند، هنوز هم توهم میزنند و خطاهای نوع دارند."
TypeSafe همچنین ادعا کرد که جیف "بدون توهم" است، اما خود بسته مشخص میکند که این مقایسهای از نوع سیب به سیب نیست. جیف زبان طبیعی تولید نمیکند و خروجیهای ساختاری احتمالی هنوز هم میتوانند اشتباه باشند حتی اگر از حالت شکست کلاسیک متنهای ساختگی مانند ارجاعات قانونی جعلی اجتناب کنند.
سیگنالها برای معاملهگران: فشار اقتصاد توکن و پذیرش اتوماسیون عامل
سیگنال بازار در کوتاهمدت "مدل هوشمندتر" نیست، بلکه فشار منحنی هزینه است. قیمت توکن خروجی ۰ دلار منتشر شده، اگر در تولید و در مقیاس حفظ شود، چالشی مستقیم برای فرض رایج است که سیستمهای عاملی باید برای نسلهای طولانی و ردپای استدلال مفصل هزینه پرداخت کنند.
سیگنال دوم تأخیر به عنوان یک مشخصه محصول است. اگر دامنه ادعایی ۷۰–۵۰۰ میلیثانیه جیف در خارج از یک دمو کنترل شده تعمیم یابد، از تغییر به سمت مدلهای تصمیمگیری زمان واقعی حمایت میکند که در آن تضمینهای زمان پاسخ بیشتر از کیفیت چت اهمیت دارند. این تفاوت بین یک عاملی است که میتواند در یک زنجیره وابستگی بنشیند و یکی که باید پشت زمانهای خروجی قرار گیرد.
سیگنال سوم شواهد پذیرش در اتوماسیون پاسخ محدود است. TypeSafe موارد استفادهای از جمله نرمافزار اتوماسیون هوش مصنوعی، برنامههای زمان واقعی نیازمند تصمیمات سریع، کارهای نقشه-کاهش برای طبقهبندی مجموعههای بزرگ، تأیید ورودیهای هوش مصنوعی و مهارهای مدل هوش مصنوعی را فهرست کرد. دمو Doom به یاد ماندنی است، اما بارهای کاری مسیریابی، تأیید و طبقهبندی جایی است که "بومی-ماشین" یا به یک دسته تبدیل میشود یا به یک دمو باقی میماند.
سرانجام، بسته یک چکلیست تمیز برای آنچه که این را از روایت به قابل اندازهگیری منتقل میکند، باقی میگذارد: ارزیابیهای شخص ثالث از تأخیر و ادعای "۴۰ برابر تا ۲۰۰ برابر سریعتر"، هر گونه اصلاحات در قیمتگذاری ورودی ۰.۰۴۲ دلار/MTok منتشر شده و قیمتگذاری خروجی ۰ دلار، و اعلامیههای پیگیری مرتبط با تأمین مالی ۴۰ میلیون دلاری اعلام شده مانند گسترش دسترسی، شراکتهای شرکتی یا مقیاسگذاری زیرساخت.
خوانش من: اگر معیارهای جیف حفظ شود، مبارزه رقابتی از "هوشمندتر" به "ارزانتر و ایمنتر برای اتوماسیون" منتقل میشود.
بخشی که تصمیم میگیرد آیا Jev اهمیت دارد یا نه، دمو Doom نیست، بلکه این است که آیا خروجیهای احتمالی تایپشده واقعاً مالیات عملیاتی عوامل در تولید را کاهش میدهند یا نه. اگر یک جریان کاری بتواند یک پاسخ به سبک Choice/Score را بدون لایههای تجزیه و اعتبارسنجی مصرف کند، آنگاه "توهمات" دیگر یک بحث فلسفی نیست و به یک ردیف بودجه مهندسی تبدیل میشود.
آستانهای که اهمیت دارد، تأیید مستقل است: اگر دامنه تأخیر 70–500 میلیثانیه و نتیجه دمو 0.114 ثانیه در خارج از محیط TypeSafe برقرار باشد، آنگاه محور رقابتی از کیفیت چت به تضمینهای زمان پاسخ و هزینه واحد به ازای هر تصمیم تغییر میکند، که این همان چیزی است که اتوماسیون را به اندازه کافی ارزان میکند تا در همه جا اجرا شود و نه تنها در جایی که نگهداری آن ارزش دارد.
