Post

“Claude can now control your browser" 😬 Hvor meget kontrol tør du overlade til AI? 2 AI'er, samme opgave: “Kan du se ind i LinkedIn og finde ud af, hvad [en kontakt] har slået op?” Copilot i Edge kunne læse den side, jeg havde åben. Men den ville ikke selv navigere, søge eller åbne profiler. 1/n

Claude i Chrome kunne godt. Men før den fik lov, kom der en advarsel (billede): Claude kan styre din browser. Du er selv ansvarlig for alle handlinger. Ondsindet kode på hjemmesider kan overtage dine instruktioner og stjæle dine data. Hvad gør en klog person så? 2/n

Kurt Lewin: Approach-avoidance conflict (i 1930erne): Det samme mål trækker og skubber på én gang. Jo tættere du kommer på beslutningen, jo stærkere bliver frygten. Men lysten vinder ofte alligevel. Adfærdsdesign: Thaler og Sunstein lærer os at fjerne friktion, så den gode adfærd bliver let. 3/n

Men friktion er ikke altid fjenden. Nogle gange er den det eneste, der får os fra Kahnemans hurtige System 1 over i det langsomme System 2, hvor vi faktisk tænker os om. Så vi har to meget forskellige opførsler fra de to AI'er: - Copilot: så meget friktion, at opgaven ikke kan løses. 4/n

Et nej fra browseren er ikke det samme som sikkerhed. Når værktøjet siger nej, stopper medarbejderen ikke. De finder bare et andet værktøj, uden advarsler, uden IT og uden nogen, der ved det - det meget omtalte skygge-AI. Og så er jeg endda ikke sikker på, at én systemadvarsel er nok. 6/n