Lūk mazs eksperiments. Atver vispārīgu AI un pajautā tam par kaut ko reālu tavā dzīvē. Lēmumu, ko sver. Vēstuli, kas jānosūta. Plānu nākamai nedēļai. Izlasi atbildi. Tā ir kompetenta. Tā arī ir vispārīga. To varētu būt uzrakstījis kuram katram.
Tas nav modelis, kas ir vājš. Tas ir modelis, kas tevi nepazīst. Tas satiek svešinieku katru reizi, kad atver jaunu čatu, tāpēc dod atbildi, ko dotu svešiniekam.
Risinājums ir vis pazemīgākais solis visā šajā laukā. Un tas aizņem vienu failu.
Sauc to par savu Konstitūciju. Daži to sauc par system prompt, ChatGPT to sauc par custom instructions, Claude to sauc par system message. Tā pati ideja. Fails, ko tavs AI lasa vispirms, pirms jebkā cita, katrā sesijā. Tas pasaka, kas tu esi, pie kā strādā, kā domā, un kā gribi, lai tas ar tevi runā. Ne tūkstoš faktu. Tikai stabilais kodols. Tā tava daļa, kas nemainās līdz ar uzdevumu tavā priekšā.
Viss tālāk to manto.
Kad sistēma zina tavu situāciju, tavus standartus un tavu balsi, katra atbilde tiek izfiltrēta caur tiem. Vispārīgs padoms kļūst par padomu tev. Sastādīts uzmetums izklausās tā, it kā tu to būtu uzrakstījis. Plāns respektē to, kas tev patiešām rūp, nevis optimizē kaut ko, kas tev nerūp. Tu pārstāj labot vienu un to pašu atkal un atkal, jo labojumi ir iecepti pamatā.
Šim instinktam ir nopietns pamats. Anthropic uzbūvēja veselu pētniecības virzienu uz idejas, ka pierakstītu principu kopums var veidot to, kā modelis uzvedas, un 2022. gadā publicēja to kā Constitutional AI. Šis raksts ir par modeļa trenēšanu, ne par tavu personīgo system prompt, bet analoģija ir pareiza: pierakstīti principi, ielādēti vispirms, veido visu, kas seko. Laboratorija izmanto konstitūciju, lai izlīdzinātu Claude. Tu vari aizņemties to pašu instinktu, lai izlīdzinātu standarta modeli ar vienu cilvēku: tevi.
Tā ir arī lētākā priekšrocība, ko jelkad iegūsi no AI. Cilvēki pavada stundas, izstrādājot perfektu promptu vienam uzdevumam, tad to izmet un rīt sāk no nulles. Konstitūcija ir vienreizēja pretmets. Uzraksti vienu reizi. Tā atmaksājas katrā sarunā pēc tam, tik ilgi, cik izmantosi AI, jebkurā modelī, kurā gadīsies būt.
Tas ir klusais virsspēks pierakstīšanā. Nākamais modelis, uz kuru pārslēgsies, manto to pašu tevi. Tava sistēma pārtrauc sākt no nulles katru reizi, kad mainās rīki zem tās. Un rīki turpinās mainīties. Tas ir droša likme nākamajiem 10 gadiem.
Īsa. Konkrēta. Mazliet ar viedokli.
Kļūda ir uzrakstīt blandu korporatīvu bio. Tādu, ko liktu mājaslapā. Tā dod tev blandu korporatīvu asistentu. Laba Konstitūcija izklausās kā tu godīgā dienā. Tā nosauc to, kas tev patiešām rūp un ko tu nekad nedarītu, ne to, kas izklausās iespaidīgi. Tās tiešās strādā labāk, jo neskaidri ievaddati rada neskaidras atbildes. "Es vērtēju izaugsmi un izcilību" AI nepasaka neko.
Kā Andrej Karpathy teica, karstākā jaunā programmēšanas valoda ir angļu. Tava Konstitūcija ir programma. Raksti to tā, it kā tu to domātu nopietni.
Turi to mazu. Maini to reti. Tā nav vieta, kur dzīvo viss, ko zini. Tā ir vieta, kur dzīvo lietas, kas ir patiesas par tevi neatkarīgi no uzdevuma. Kad pieķer sevi, ka gribi pievienot šīs nedēļas projektu vai gadījuma ideju, tas ir signāls, ka tas pieder citur. AI Konstitūciju ielādē vispirms. Tu negribi, lai tavs pamats būtu apkrauts ar troksni.
Noderīgs tests: ja teikums tavā Konstitūcijā joprojām būtu patiess pēc gada, tas tur pieder. Ja tas varētu būt nepatiess nākamajā mēnesī, tas tur nepieder.
“Uzraksti vienu reizi. Tā atmaksājas katrā sarunā pēc tam, jebkurā modelī, kurā gadīsies būt.”
Identitāte vispirms. Fakti vēlāk.
Kas tu esi, iet Konstitūcijā. Kas notiek tavā dzīvē, iet tavā atmiņā. Cilvēki šos pastāvīgi sajauc, un rezultāts ir sistēma, kas zina simt faktus par viņiem un joprojām atbild kā svešinieks. Daļa, kas to liktu izklausīties pēc viņiem, nekad nav pierakstīta.
Identitāte vispirms. Fakti vēlāk. Tādā kārtībā. Ja saproti to dalījumu, pārējai AI sistēmai ir kur droši stāvēt.
Tu pats to vari redzēt. Katru reizi, kad atver čatu un jūties, it kā skaidrotu sevi no nulles, tā ir Konstitūcijas problēma. Katru reizi, kad jūties, ka AI ir aizmirsis kaut ko konkrētu, ko teici pagājušajā nedēļā, tā ir atmiņas problēma. Divi dažādi slāņi. Divi dažādi risinājumi.
Tev nav vajadzīgs nekas izsmalcināts, lai sāktu. Viena godīga lappuse, kas pasaka, kas tu esi un kā gribi, lai AI ar tevi strādā, mainīs nākamo sarunu, kas tev būs.
Tas ir tests. Uzraksti to. Ielādē kā savu system prompt vai custom instructions tajā rīkā, ko izmanto. Skaties, kā atbildes pārstāj izklausīties tā, it kā tās būtu domātas visiem citiem.
Konstitūcija ir AIOS pirmais slānis. Nākamais, ko lasīt, ir Konstitūcijas slānis, kur tas pārstāj būt teorija un pārtop par īsto failu tavā diskā.
Un ja tas iesvēla, tieši tāpēc mēs būvējam FullDigital. Maza cilvēku grupa, kas būvē savu AIOS slāni pa slānim, kopā ar mums. Pievienojies gaidīšanas sarakstam. Bez pārdošanas runām, bez spam. Tikai agrīna pieeja un sarunas ceļā.
- Bai et al., Constitutional AI: Harmlessness from AI Feedback, Anthropic, 2022. Mehānisms ir modeļa trenēšana, ne lietotāja system prompt; minēts kā analoģija personīgai konstitūcijai, ne tas pats mehānisms.
- Andrej Karpathy, karstākā jaunā programmēšanas valoda ir angļu, 2023. gada janvāris.
- Andy Clark un David Chalmers, The Extended Mind, Analysis, 1998.
- OpenAI, System messages un Custom instructions for ChatGPT.
- Anthropic, System prompts for Claude.
- David Allen, Mind Like Water, par skaidrību caur ārēju sistēmu.
- GDPR, 20. pants: tiesības uz datu pārnesamību, juridiskais pamats Konstitūcijas glabāšanai vienkāršos failos, kas pieder tev.