Самые современные модели ИИ начали врать людям
5- 30.09.2024, 8:58
- 5,724
Нейросети не признаются, что чего-то не знают.
популярное за неделю
- 20.11 Лукашенко готовит новую коллективизацию 63,472
- 15.11 Работников БЕЛАЗа начали массово задерживать из-за фирменных ботинок 62,800
- 17.11 СМИ: Несколько ракет атаковали Украину из Беларуси 56,140
- 18.11 СМИ: Российские чиновники в панике готовят эвакуацию родственников 53,698
- 20.11 Defense Express: ВСУ ударили ракетами Storm Shadow по бункеру с генералами РФ и КНДР 52,466
- 18.11 Украинские БПЛА атаковали Москву 52,164
- 21.11 От здания ничего не осталось: первые кадры с места удара Storm Shadow по бункеру с генералами 50,402
Мнение
Кремль в ступоре
Можно ли остановить войну за 24 часа?
Проверка Москвы «на слабо»
Лукашенко как Черненко
Чтобы сети не врали, в процессе обучения их надо вознаграждать за честные ответы "не знаю", "недостаточно информации, чтобы ответить". Для этого нужны соответствующие датасеты с вопросами на которые нельзя ответить.
ОтветитьЭти ответят. Просто для оценки надо нанимать другой ИИ.
ОтветитьМне иногда кажется что у всех новоиспечённых технарей внутрях ИИ вместо мозга. Слова правильные, а смысла ноль.
помню ради эксперимента предложили chatGPT решить математическую задачу на комбинаторику. AI выдал неправильный ответ. Каждый раз когда мы указывали на ошибку AI отвечал типа: "согласен, сейчас скорректирую" и снова выдавал чепуху. В общем мы ржали всей нашей командой quant девелоперов :))))
ОтветитьИменно. Пытался писать код с помощью разных моделей. Общий вывод: не по коню ноша 🤷♂️
ОтветитьНа одну правду найдется огромный, практически бесконечный диапазон неправды. И если приказ дать ответ становится важнее всего, то правды останется очень мало.
ОтветитьА там, как и торговле, "выданный ответ" - это результат деятельности (за которую кого-то вознаградят), и ответы такие будут.