Защо AI понякога дава повърхностни отговори - и как да го накараш да мисли по-добре

Ян ЛеКун е един от тримата учени, отличени с ACM A.M. Turing Award за 2018 г. за фундаменталния си принос към дълбоките невронни мрежи. Той е професор в NYU и дълго време беше главен AI учен в Meta. Заедно с Джефри Хинтън и Йошуа Бенжио той поставя основите на технологията, върху която работят днес ChatGPT, Claude и всички останали съвременни AI модели.
Но ЛеКун е важен не само заради постиженията си. Важен е и заради това, което критикува.

Какво не е наред с днешните AI модели?

Според ЛеКун LLM-ите - Large Language Models - са много добри в едно нещо: генерирането на текст. Те предсказват следващата най-вероятна дума, след нея следващата, и така изграждат отговор, който звучи убедително. Но „звучи убедително" не е същото като „е вярно" или „е достатъчно задълбочено".
Проблемът е структурен. Моделът не планира отговора преди да го напише. Не проверява дали е пропуснал риск. Не симулира как ще изглежда позицията при ревизия. Просто генерира -  бързо, гладко и уверено.
За счетоводители и данъчни консултанти това е конкретен проблем. Питаш AI за сложен казус и получаваш гладък, уверен отговор - но той може да пропусне изключение, скрит риск или сценарий, който би излязъл наяве при реална данъчна проверка.

Какво са reasoning режимите и защо са важни?

Индустрията отговори на тази критика с т.нар. reasoning или thinking режими. При тях AI не генерира директно отговор - първо преминава през вътрешен процес на разсъждение, разглежда проблема от различни ъгли и проверява противоречията, преди да формулира становище.
Разликата е видима на практика. Отговорите са по-дълги, по-структурирани и значително по-добри при сложни задачи с много променливи.
Но и reasoning режимите не са панацея. Изследвания показват, че дори при тях моделите не винаги казват точно това, което „мислят" в скрития слой на разсъждението. Това означава, че дори с включен thinking режим са нужни добра методология и конкретни инструкции - иначе AI мисли по-дълбоко, но не непременно в правилната посока.

Какво прави разликата на практика?

Ако искаш от AI да бъде полезен в професионална среда, не му задавай само въпрос. Дай му роля, рамка и критерий за проверка. Разликата между „Как се третира тази сделка по ЗДДС?" и „Влез в ролята на данъчен ревизор и намери слабите места в тази позиция" е огромна - и двата въпроса питат за едно и също, но получаваш коренно различни отговори.

Конкретно това означава:

  • при решение: помоли AI да сравни варианти по риск, цена и ефект - не само да посочи очевидния
  • при планиране: накарай го да разбие задачата на етапи и да провери зависимостите между тях
  • при проверка: изискай да търси слабите места и изключенията - не да потвърждава позицията
  • при стратегия: помоли го да мисли едновременно за голямата картина и за конкретната операция
  • при учене: накарай го да обясни не само „какво", но и „защо" и „кога не важи"


8 готови промпта за счетоводители - вдъхновени от тази логика

В AI Accounting Hub на ZnamKak.com подготвихме 8 готови промпта, вдъхновени от тази логика. Те са практическа рамка, вдъхновена  от идеята, че по-добрият AI трябва да моделира ситуацията, да планира и да проверява.
Всеки от осемте е адаптиран специално за счетоводители и данъчни консултанти - с конкретни роли, конкретна методология и конкретен критерий за качество на отговора.
За какво може да служат:

за вземане на решения - когато не виждаш ясно или имаш няколко варианта:

  • Провери становището, преди да поемеш отговорност
  • Има ли по-добър вариант от очевидния?

за планиране -  когато задачата е голяма и сложна

  • Планирай решението стъпка по стъпка
  • Виж цялата картина преди да дадеш становище

за проверка - когато точността е критична или се питаш как ще изглежда при ревизия

  • Мисли като ревизор, преди да подпишеш
  • Оспори общоприетото преди то да те изненада

за стратегическо мислене -  когато трябва голямата картина и детайлът едновременно

  • Голямата картина и малкият детайл - едновременно

за учене -  когато излезе нов закон и искаш да го разбереш наистина

  • Разбери закона, преди да го приложиш

 

Това са 8 начина да накараш AI да мисли по-бавно, по-дълбоко и по-честно -  вместо да дава бърз, гладко звучащ, но повърхностен отговор.

Библиотеката с всичките 8 промпта е достъпна в [ZnamKak.com].



Настоящото изложение има информативен и опознавателен характер. Изразява личното професионално мнение на авторите на сайта и не представлява конкретен съвет или консултация

Напиши коментар