هوش مصنوعی برنامه ضعیف را اصلاح نمی‌کند؛ برای هر بازبینی دروازه شواهد بسازید

راهنمای ارزیابی برنامه زمان‌بندی GAO، برنامه قابل‌اعتماد را مدلی از کار و زمان لازم برای رسیدن به نقاط عطف پروژه می‌داند که با ده رویه به‌هم‌پیوسته ساخته و در برابر برنامه مصوب نگهداری می‌شود. راهنمای DOE نیز تحلیل را با کنترل اعتبار داده و سلامت برنامه آغاز می‌کند و سپس به انحراف، روند و پیش‌بینی می‌رسد. روایت خوش‌بیان جای دامنه ناقص، منطق گسسته، تقویم کنترل‌نشده یا وضعیت نامطمئن را نمی‌گیرد. [1][2]

تحلیل اولبریش: هوش مصنوعی باید بازبین یک برنامه کنترل‌شده باشد، نه منبع حقیقت برنامه. اگر ورودی نتواند برنامه مبنا، به‌روزرسانی جاری، تاریخ داده، تقویم‌ها، قواعد پیشرفت و سابقه تغییر مصوب را بازتولید کند، بازبینی هوش مصنوعی را متوقف کنید. ابتدا فرایند مدیریت برنامه را اصلاح کنید؛ وگرنه فقط همان عدم‌قطعیت را سریع‌تر و قانع‌کننده‌تر بیان کرده‌اید.

ISO/IEC 42001 استفاده از هوش مصنوعی را چرخه‌ای مدیریت‌شده با خط‌مشی، هدف، درمان ریسک و بهبود مستمر می‌بیند. ISO/IEC 42005 ارزیابی اثر را در سراسر چرخه عمر اضافه می‌کند و راهنمای دولت بریتانیا نیز در نقاطی که تصمیم پرپیامد است، کنترل معنادار انسان را می‌خواهد. حاصل این منابع، تعیین مرز کاربرد است؛ نه مجوزی کلی برای خودکارکردن کنترل پروژه. [5][6][7]

پیش از خرید، نوع خروجی را طبقه‌بندی کنید. کمک کم‌پیامد می‌تواند نظرهای تکراری را گروه‌بندی یا پرسش اولیه تهیه کند. کاربرد میان‌پیامد می‌تواند ناهنجاری‌های منطقی را برای برنامه‌ریز اولویت‌بندی کند. تغییر برنامه مبنا، پذیرش پیشرفت، پیش‌بینی نقطه عطف قراردادی، نسبت‌دادن تأخیر، تأیید تمدید مدت یا پشتیبانی پرداخت، پرپیامد است؛ این طبقه را از اقدام خودکار بیرون نگه دارید و تصمیم‌گیر انسانی پاسخ‌گو را نام ببرید.

راهنماهای GAO و DOE بر برنامه یکپارچه و کنترل‌شده و داده وضعیت معتبر تکیه دارند. نمایه هوش مصنوعی مولد NIST نیز تعیین منشأ و تبار محتوا، راستی‌آزمایی منابع و ارجاعات خروجی و ثبت محدودیت‌های فراتر از محیط آزموده‌شده را توصیه می‌کند. این دو حوزه به یک پیش‌شرط مشترک می‌رسند: بازبینی باید از یک مجموعه شواهد نام‌گذاری‌شده قابل تکرار باشد. [1][2][4]

به‌جای اتصال دستیار مبهم به فایل زنده، یک بسته فقط‌خواندنی صادر کنید. فایل بومی، خروجی جدولی خنثی، مرجع برنامه مبنا، شناسه به‌روزرسانی، تاریخ داده، تقویم‌ها، فرهنگ کدگذاری، مبنای پیشرفت، ثبت تغییر، گزارش روایی و نقاط عطف قراردادی مرتبط را در آن بگذارید. بسته را با هش یا شناسه ثابت کنید و نسخه ابزار و مدل، تنظیمات، پرامپت، منابع بازیابی، زمان اجرا و نام بازبین را ثبت کنید.

رویه‌های GAO، کامل‌بودن فعالیت‌ها، توالی، منابع، مدت، وضعیت قابل‌ردیابی، مسیر بحرانی، شناوری، تحلیل ریسک و به‌روزرسانی کنترل‌شده را پوشش می‌دهند. ترتیب تحلیل DOE نیز پیش از انحراف و پیش‌بینی، اعتبار و سلامت را کنترل می‌کند. NIST سنجش تجربی ادعاهای مدل را توصیه و از تعمیم عملکرد بر پایه آزمون محدود یا روایی پرهیز می‌دهد. پس حساب زمان‌بندی باید در موتور یا اسکریپت شفاف باقی بماند. [1][2][4]

ابتدا مجموعه قواعد مستند را اجرا کنید و فقط استثناها و شواهد لازم برای توضیح آنها را به هوش مصنوعی بدهید. برنامه‌ریز باید هر مدت، شناوری، انحراف و رد منطق را بدون مدل بازتولید کند. سپس هوش مصنوعی می‌تواند استثناهای مرتبط را خوشه‌بندی، گزارش به‌روزرسانی را با تغییرات ثبت‌شده مقایسه و پرسش دقیق تهیه کند؛ اما نباید رابطه مفقود بسازد یا تاریخ قراردادی را پنهانی محاسبه مجدد کند.

NIST در هوش مصنوعی مولد، ریسک جعل واقعیت و یکپارچگی اطلاعات را شناسایی می‌کند، راستی‌آزمایی منابع و ارجاعات را توصیه می‌کند و ثبت مواردی را می‌خواهد که انسان تصمیم مدل را تغییر می‌دهد. راهنمای بریتانیا اعتبارسنجی انسانی تصمیم‌های پرریسک و آزمون کمی در کنترل تغییر را ضروری می‌داند. بنابراین روان‌بودن پاسخ معیار پذیرش نیست. [4][7]

قالب خروجی ثابت بخواهید. هر یافته باید شناسه فعالیت، ردیف شواهد، قاعده قطعی یا تعارض سند، اهمیت موضوع، توضیح‌های ممکن با برچسب فرضیه، پرسش از مسئول و تصمیم بازبین را نشان دهد. یافته‌ای را که به بسته ارجاع نمی‌دهد رد کنید. خروجی ایمن در بسیاری موارد یک پرسش بهتر است، نه تاریخ پایان پیش‌بینی‌شده.

NIST آزمون پیش از بهره‌برداری در شرایط مشابه کاربرد، ثبت محدودیت تعمیم، راستی‌آزمایی ارجاعات و پایش پس از انتشار را توصیه می‌کند. ISO/IEC 42001 و ۴۲۰۰۵ ارزیابی و بهبود را کار سراسر چرخه عمر می‌دانند و راهنمای بریتانیا نیز انتشار مدیریت‌شده، اعتبارسنجی کمی، پایش مستمر و امکان بازگشت نسخه را می‌خواهد. نمایش یک‌باره، راه‌اندازی نیست. [4][5][6][7]

از چند به‌روزرسانی بسته‌شده مجموعه آزمون کور بسازید: نمونه سالم، عیب منطقی شناخته‌شده، نام‌گذاری دوزبانه، تغییر تقویم و کد، پیشرفت مورد اختلاف و گزارش ناقص. برنامه‌ریزان مجرب، بدون دیدن خروجی هوش مصنوعی، یافته مرجع را تعیین کنند. کاربرد محدود را تنها هنگامی بپذیرید که نتیجه برای طبقه پیامد آن پایدار باشد؛ پس از تغییر مدل، پرامپت، خط داده، تقویم یا نرم‌افزار زمان‌بندی دوباره آزمون کنید.

چارچوب NIST کار ریسک را میان حاکمیت، شناخت زمینه، اندازه‌گیری و مدیریت سازمان می‌دهد. ISO/IEC 42001 نظام سازمانی می‌خواهد، نه کنترل محدود به ابزار؛ راهنمای بریتانیا نیز بر نظارت روشن، نقش‌ها، ارجاع، پایش و مداخله معنادار تأکید دارد. این کنترل‌ها وقتی مهم‌ترند که خروجی می‌تواند بر افراد، پرداخت، تعهد برنامه یا موضع حقوقی اثر بگذارد. [3][5][7]

یک به‌روزرسانی پیمانکار را موازی با بازبینی فعلی پایلوت کنید و هیچ چیز را در فایل زنده ننویسید. فهرست استثناهای هوش مصنوعی را با بازبینی عادی برنامه‌ریز مقایسه کنید، هر یافته را از همان مسیر مکاتبه قراردادی ببندید و جلسه تصمیم ادامه یا توقف برگزار کنید. فقط زمانی دامنه را گسترش دهید که کیفیت شواهد بهتر شود، بی‌آنکه عدم‌قطعیت پنهان یا قضاوت مستقل تخصصی ضعیف شود.

پذیرش نهایی پیشرفت، تغییر مبنا، علت و هم‌زمانی تأخیر، کاهش اثر، پیش‌بینی نقطه عطف، تمدید مدت و پرداخت، تصمیم پروژه و قرارداد باقی می‌ماند. مقررات حاکم ایران، قرارداد امضاشده، برنامه‌های مصوب، سوابق هم‌زمان، شرایط واقعی کارگاه و نظر مسئولان برنامه‌ریزی، مهندسی، بازرگانی، حقوقی و امنیت اطلاعات ملاک است. این فرایند دروازه اطمینان است، نه اثبات استحقاق یا تضمین عملکرد.