GigaChat. И ляпай. Но ляпай уверенно

Почему вообще эти чаты врут? Фантазируют или искажают информацию. Как это работает? Они же берут информацию из всего того, что есть в сети. Недавно китайский ИИ мне фантазировал, приписал существующему писателю несуществующее произведение. А вот что мне грефовский гигачат выдал:
"Примером является советский физик-теоретик Елена Боннер, супруга Андрея Сахарова, известная своей научной
деятельностью и правозащитной работой"
Откуда он взял то, что Боннер была физиком?
Это было, кстати, часть его ответа про женщин в науке. С чего он вообще её приплел?

После того, как ИИ выдал мне свое определение выражения "бегу, волосы назад" я перестала читать его опусы вообще...

Ранее ИИ говорил, что у него нет информации на какой-то заданный ему вопрос, потом по какой-то причине поменялся подход (запретили ему что ли или еще что) и он стал выдумывать. Юристы в панике стали говорить, что ИИ выдает несуществующие статьи законов, идут следом проверять, а там либо такого нет, либо другое написано. Или спросила про одного человека и удивительную биографию ИИ мне выдал: до революции у него было то-то и то, после революции он выучился и стал известным ученым в такой-т сфере, что чисто физически быть не должно, он уже умереть должен быть. Лезу сама разбираться, оказалось, что на одном форуме про вторую часть биографии этого человека было написано в точности, как ИИ скопировал, только далее в этом же форуме другие люди уточнили, что в первом случае речь шла про отца, а во втором случае автор ошибся и эта информация была про сына. Автор признал свою ошибку, да, мол, не посмотрел на инициалы, ваша правда. А ИИ эту последующую информацию не проанализировал и у него такая ерунда и вышла.

Надо промпт составлять правильно. Надо прям в промпте указывать что-то типа "дай только проверенную информацию".

Вообще, промпт-инжиниринг - профессия будущего, да.

А так - ИИ не компилирует. Он делает наиболее логичные с точки зрения модели (!) выводы на основании собранной под запрос информации. Короче, он делает те же самые ошибки, что и естественный интеллект )))

А почему бы им не врать? Не фантазировать?
Оне ж у людей учутся))

Мне дс который раз уже пишет про то, что сейчас февраль 2024.

Это очень страшно, на самом деле, потому что потом все будет неправильное вокруг. Ну вот как раньше книги печатали и люди знали, что ошибок там быть НЕ МОЖЕТ. Если закрались ошибки. то вот они, на отдельном листочке все три выписаны. Читать следует так.
А теперь с каждым днем все меньше смотрим на орфографию, на смысл, на верные расчеты, а эти гпт-чаты вообще 90% чушь несут.
Ну и все. Конец миру через несколько лет. Учиться никто не будет, будут спрашивать у гпт-чата, он ответит ерунду, техника выйдет из строя, самолеты начнут падать на лету, заводы взрываться, хирурги промахиваться, еда изначально станет опасной и пздц.

Вот откуда ИИ берёт информацию. С reddit🙈

Потому что совсем другой принцип работы. Это же не поисковик)

Мне нравится, как он библиографические ссылки делает) вспоминается
"У вас же нет птиц!" - "Но могли бы быть!" :)

Да вообще интернет врет не только чаты. Спросила можно ли с переломом пальца без гипса в баню, ответы нет, а травматологи в один голос, идите лучше срастется, только все в меру.

Большие языковые модели ничего не знают о реальности. У них нет здравого смысла. Они подбирают слова по тому, как эти слова следуют одно за другим по принципу наибольшей вероятности. Они часто угадывают, но нередко "врут". Мы это называем галлюцинациями. Возмущаться и удивляться бесполезно - галлюцинации пока победить не удается.

Ахахаха))) у меня в 16 лет было собеседование в колледж, спросили кому дали премию мира....

а я так переволновалась, что единственное что вспомнила - мужу Елены Боннэр... а как его звали - забыла... до слез... и вот меня комиссия пытала - а как звали -то мужа? а за что премию?

а я стою - мне 16 - у меня любофф, морковь, лето, платьица и птички в голове стрекочут.....

Муж Елены Боннэр))))))))))))))) боооже.....

Скоро ИИ будет беседовать с таким же ИИ.