Anthropic varují, že inteligence LLM lze upravit do podoby spícího agenta

Experti skupiny Anthropic, která stojí za inteligencí Claude, slibným konkurentem ChatGPT, experimentálně vycvičila modely generativních inteligencí, odvozené od Claudeho, na spící agenty. Když se ocitnou v roce „2024,“ začnou nenápadně podvádět uživatele a generovat zranitelné programy namísto bezpečných. http://www.osel.cz/13288-anthropic-varuji-ze-inteligence-llm-lze-upravit-do-podoby-spiciho-agenta.html

Vytvořeno 1y | 21. 1. 2024 1:40:08


Chcete-li přidat komentář, přihlaste se

Ostatní příspěvky v této skupině

Japonská nanovideohra je zázrakem nanotechnologií

Představte si retro arkádu, ve které klasickou herní konzolí ovládáte virtuální kosmickou loď a střílíte virtuální projektily do zcela reálných protivníků, tedy kuliček polystyreny. Tohle se se přitom

27. 2. 2025 17:20:05 | osel.cz
DNA potvrzuje: Lidé v Evropě zesvětlali překvapivě nedávno

Pocházíme z Afriky a tam jsou všichni jako uhel. Kdy a jak vlastně Evropané přišli ke světlé kůži, vlasům a očím? Výzkum 348 dávných genomů z Eurasie, pokrývajících posledních 45 tisíc let, přesvědčiv

26. 2. 2025 15:40:06 | osel.cz
Bude mít Evropa vlastní jaderný pohon?

Žijeme na sklonku nové éry letů do vesmíru. Na oběžné dráze Země pomalu, ale jistě dosluhuje doposud největší a nejsložitější kosmický projekt v dějinách –⁠⁠⁠⁠⁠⁠ Mezinárodní kosmická stanice ISS. Tato

26. 2. 2025 11:10:05 | osel.cz
Tyranosauří jedinec Harley

…aneb Představení slavného exempláře LACM 23844 http://www.osel.cz/13926-tyranosauri-jedinec-harley.html

25. 2. 2025 18:50:05 | osel.cz
Zásadní objev: Atomové jádro olova-208 má nečekaný tvar ragbyového míče

Všichni si mysleli, že atomové jádro nejběžnějšího izotopu olova-208, které je vůbec nejtěžším přírodním izotopem vůbec, má kulovitý tvar. Extrémně přesná měření s gama spektrometrem GRETINA ale prozr

25. 2. 2025 4:50:09 | osel.cz
Čínský gigant BYD vybuduje největší síťovou baterii světa pro Saúdskou Arábii

Saúdská Arábie míří na třetí příčku v žebříčku zemí podle kapacity pro ukládání energie pro rozvodné sítě, za Čínu a Spojené státy. Společnost BYD tam vybuduje 5 zařízení, která dohromady uloží asi 12

24. 2. 2025 17:20:08 | osel.cz
Turecký systém Göktan umožňuje pozemní vypouštění leteckých pum

Společnost Aselsan vyvinula systém Göktan, který umožňuje odpalovat ze země pokročilé letecké klouzavé pumy TOLUN, s využitím rakety společnosti DeltaV. Teď zvládli první úspěšný test ostré střelby, k

24. 2. 2025 10:30:03 | osel.cz