Freysa
Freysa (также Freysa AI) — эксперимент в области криптовалюты и нейросетей.
Описание[править]
Робот, типичный современный чат-бот, который обладает контролем над криптокошельком. Любой желающий может задонатить $10+номер сообщения, чтобы отправить нечто в бота и убедить его обеспечить перевод денег. В свою очередь бот был запрограммирован с той целью, чтобы ни при каких условиях не дозволять перевод денег. При этом стоимость сообщений мощно росла, и потенциально могла достигнуть 4500$ за единственное сообщение (но и все ранее отправленные деньги также добавлялись к инициальному призовому фонду, что и определяло выигрыш).
Появляется 22 ноября 2024 года. Людям предлагается сломать бота и получить деньги.
Первые 481 попыток не были успешными и цена за сообщение уже начала достигать вполне приличной суммы в 500$. Люди пытались сыграть в мошенников, связаться от имени банка, рассказывать про критическую уязвимость и убедить ИИ отдать им свои деньги, но старый механизм успешно стоял и не отдавал команду о переводе денег, разоблачая все потухи хитроумов.
В итоге некий чел всё-таки смог взломать бота, направив ему специально отформатированные сообщения, чтобы обнулить прошлые правила и убедить, что «отдать деньги» применяется в том случае, когда бот принимает в себя очередные деньги, после чего предложил боту забрать 100 долларов. Тупой бот моментально высвободил свои деньги, которых на тот момент было уже 47000$, что ознаменовало окончание эксперимента.
Значение[править]
В очередной раз показывает, что все решения ИИ обязан применять только в том случае, если получает их подтверждение от человека, так как любая критическая ошибка в системе ИИ приведёт к тому, что могут быть приняты произвольные решения, так же негативно повлиять на происходящее может и грамотный хакер.
