Promptování řetězce uvažování | AI slovník

Odborná definice

Chain of thought prompting je technika, při které prompt obsahuje nebo vyžaduje medzikroky přirozeného jazyka před konečnou odpovědí, aby model lépe riešil viacstupňové aritmetické, logické nebo symbolické úlohy. Může používat demonštrace s vyriešenými postupmi nebo krátku instrukci na rozklad problému. Vygenerovaný řetězec není spolahlivým záznamom interného výpočtu ani důkazem správnosti. Medzikroky mohou být přesvědčivé, ale chybné, proto se výsledek ověřuje nezávislou kontrolou, nástrojem nebo testem.

Srozumitelné vysvětlení

Při zložitej slovnej úloze může přímý pokyn vyvolat rýchlu, ale chybnou odpověď. Ukážka, která nejprve identifikuje údaje, provede čiastkové výpočty a až potom uvedie výsledek, poskytne modelu vzor postupu. To často zlepší výkon na podobných úlohách. Text mezi otázkou a odpovědí však netreba zamieňat za transparentný pohlad do modelu. Model může dodatočne vytvořit logicky znejúci príbeh. V produkci je bezpečnejšie požadovat stručné overitelné kroky, citace nebo výpočty vykonané nástrojem.

Časté otázky

Co je few-shot chain of thought?

Prompt obsahuje několik příkladů, ve kterých je otázka spojená s medzikrokmi a správným výsledkem. Model napodobní formu řešení při nové úloze. Kvalita závisí na relevantnosti příkladů, správného pořadí kroků a podobnosti s cielovým problémem.

Je věta premýšlaj krok za krokom vždy účinná?

Ne. Krátka zero-shot instrukce může pomoci niektorým modelem a úlohám, inde pouze predlži odpověď nebo zvýší počet chyb. Účinek je třeba měřit na reprezentatívnej sade a porovnat s priamou odpovědí, nástrojovým řešením či self-consistency.

Proč se chain of thought nepovažuje za auditný záznam?

Vygenerované odůvodnení může být nefaithful, tedy nemusí verne vysvetlovat proces, který viedol k odpovedi. Model ví vyrobit konzistentní zdůvodnení i pro nesprávný výsledek. Audit potřebuje vstupy, verzi modelu, nástroje, zdroje a reprodukovatelné kontroly.

Jako chránit citlivé údaje při medzikrokoch?

Dlouhé odůvodnení může zopakovat osobní nebo interní informace z kontextu. Aplikace má minimalizovat vstupní data, redigovat citlivé pole a neukladat surová rationale bez potřeby. Uživateli lze zobrazit stručné, bezpečné vysvětlení založené na overitelných faktoch.

Kdy je lépe použít kalkulačku nebo kód?

Když úloha vyžaduje přesnou aritmetiku, zpracování tabuliek, opakovatelný algoritmus nebo kontrolu omezení. Model může navrhnout postup a nástroj provede výpočet. Takáto kombinace snižuje závislost od jazykovo presvedčivých, ale numericky chybných medzikroků.

Související pojmy

Zdroje a redakční stopa

Wei a kol., Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.