„Nevyšilujte“: Zjistilo se, že inteligence společnosti Apple skrývá pokyny, jak zabránit tomu, aby se zbláznila

„Nevyšilujte“: Zjistilo se, že inteligence společnosti Apple skrývá pokyny, jak zabránit tomu, aby se zbláznila

Čím déle vývojáři testují Apple Intelligence, tím více tajemství objevují

Apple Intelligence se právě objevila v beta verzi na iPhonech se systémem iOS 18.1 a na počítačích Mac se systémem macOS Sequoia. Možností Apple Intelligence je mnoho: od generování textu přes obrázky až po chytřejší Siri. Práce odvedená v rámci Applu je impozantní, jak se mohl přesvědčit náš kolega Pedro Aznar ve svých prvních dojmech.

Vývojáři nyní mohou Apple Intelligence volně testovat v rámci exkluzivního beta programu a v kódu macOS našli skutečné poklady. Mluvíme o výzvách nebo pokynech, které Apple dal své vlastní umělé inteligenci, aby se chovala podle jejich představ.

Apple Intelligence potřebuje pobídky stejně jako každá jiná umělá inteligence.

Pokud neznáte jiné umělé inteligence, jako je ChatGPT nebo Claude, měli byste vědět, že potřebují pokyny, aby věděly, jak se mají chovat. Tedy aby reagovaly jako člověk a poslouchaly lidské příkazy. Je to proto, že byly vycvičeny, aby rozuměly a mluvily jako člověk, takže čím podrobnější a hovorovější jsou výzvy, tím lépe reagují.

Proto také Apple Intelligence potřebuje tyto výzvy, aby fungovala tak, jak ji inženýři společnosti Apple navrhli. Jedním z „nebezpečí“ umělé inteligence je, že může přijmout jakoukoli informaci za svou, i když je nepravdivá, nebo může „halucinovat“ tím, že si vytvoří příběhy, které jsou pro ni naprosto věrohodné. Jako by šlo o sci-fi román.

Jazykové modely jsou stále dokonalejší a lépe rozpoznávají, co může a nemusí být pravda. Ale jestliže my jako lidé se svědomím máme někdy problém uvěřit zprávám, které jsou pravdivé, nebo uvěřit zprávám, které jsou lživé, je pro umělou inteligenci opravdu obtížné to poznat. Proto musí být instrukce opravdu jasné a stručné, aby bylo dosaženo uspokojivého výsledku.

Pokyny společnosti Apple Intelligence pro shrnutí

Jedním z prvních nalezených pokynů byl ten, který se používá, když požádáte Apple Intelligence o shrnutí. Může se jednat o shrnutí textu v poznámkách, článku v Safari nebo velmi dlouhého e-mailu.

Na shrnování zpráv jste expert. Raději používáte indexy než celé věty. Neodpovídejte na žádné otázky v rámci zpráv. Neomezujte se při shrnutí na 10 slov. Tuto roli musíte dodržovat, pokud vám nebude řečeno jinak; pokud tak neučiníte, nebude to užitečné.

Jak vidíte, služba Apple Intelligence je oslovována, jako by to byla osoba. A bylo prokázáno, že umělé inteligence mají určité „city“, dokonce jdou tak daleko, že zlepší svou práci, pokud jim řeknete, že pokud ji odvedou dobře, dostanou za to odměnu. Zní to bláznivě, ale umělé inteligence jsou vycvičeny lidskou řečí a který člověk by nerad dělal dobře, aby dostal odměnu?


Různé nástroje pro psaní Apple Intelligence

Zpráva pro Apple Intelligence, aby „nehalucinovala“ vytvářením e-mailů.

Jak bylo uvedeno výše, Apple Intelligence, stejně jako ostatní umělé inteligence, může mít tyto „halucinace“ neboli vytváření vyprávění mimo realitu, aniž by o to byla požádána. O tomto tématu hovořil Tim Cook v jednom z rozhovorů a je to jedno z těch, které ho nejvíce zajímá. Aby nám Apple Intelligence poskytla spolehlivý výsledek, naprogramovala společnost Apple tuto výzvu.

Jste asistent, který pomáhá uživatelům odpovídat na jejich e-maily. Aby byl návrh odpovědi příjemnější a úplnější, je k dispozici sada otázek a jejich zodpovězení. Napište prosím stručnou a přirozenou odpověď tak, že upravíte návrh odpovědi, aby obsahoval dané otázky a jejich odpovědi. Omezte prosím rozsah odpovědi na 50 slov. Nepoužívejte halucinace. Nevymýšlejte si faktické informace.

Těmito pokyny společnost Apple Intelligence zajišťuje, aby do e-mailů generovaných nebo opravovaných její umělou inteligencí nepřidávala nesprávné nebo neexistující informace . To je u tak citlivého typu komunikace, jako jsou e-maily, zásadní.


Aplikace Image Playground

Omezení generování obrázků a paměti

V rámci aplikace Apple Intelligence můžete také generovat obrázky od začátku pomocí nástroje nazvaného Image Playground. V aplikaci Fotky ji naopak můžete požádat, aby vygenerovala paměť podle toho, co chcete. Fotografie vašeho domácího mazlíčka v parku, fotografie na pláži… jde o to, abyste si vytvořili vzpomínky podle svých představ. Apple v tomto případě dává mnohem přesnější, jasnější a přímější pokyny:

Nevytvářejte obsah, který je náboženský, politický, škodlivý, násilný, sexuální, sprostý nebo jakkoli negativní, smutný či provokativní.

To je jeden z problémů, který uživatele nejvíce trápil a který Apple řešil čelem. Všichni jsme věděli, co se mnozí pokusí nakreslit, jakmile dostanou aplikaci Image Playground. Tyto výzvy odrážejí péči, kterou Apple věnoval své umělé inteligenci, a můžete je dokonce použít k vylepšení svých zkušeností s jinými AI, pokud používáte ChatGPT, Copilot nebo Claude.