Помните хейт в комментах после моего поста про итоги года от Granola?
Они выкатили целую статью (ссылка внизу), где рассказывают как они их готовили. На мой вкус, очень интересно почитать – понятно, почему их итоги года ощущаются иначе чем то, что делают остальные компании
Записал другу войс с мыслями пока читал. Вот причесанная версия:
→ Ооо, вот все говорят, что промпт инжиниринг умер, а похоже все-таки нет – это по-прежнему серьезная часть создания ИИ фичей (и это мэтчится с моим непопулярным мнением). Просто, это не совсем техническая часть, а скорее продуктовая – тут важно не то, как системе выполнять задачу, а скорее – понять какой результат хотим видеть и почему. Часто это прям совсем в мелочах проявляется: нужен не «ироничный твист» а «слегка ироничный твист»
→ Behavioral vs. Psychological. Мысль вроде очевидная, но я ни разу не формулировал это так в своих запросах к LLM. А надо бы:
Ребята просят не делать выводы о психологии и причинности («ты просишь валидации, потому что чувствуешь неувернность в своей экспертизе»). Вместо этого, важны обобщения реальных фактов («часто, после фразы собеседника, ты коротко перефразируешь сказанное»). Что я делаю, а не почему. Потестил на выгрузке канала, получилось интересно (там и про вас есть, хаха). Оставлю в комментах.
→ Похожая штука про комплименты – многие юзеры хейтят лесть, особенно от ИИ. Ребята решили это тем, что упоролись в конкретику и опять же конкретные поведенческие факты. Вместо «ты крутой аналитик» – «ты несколько раз находил в логах корреляцию между нагрузкой и конфигом, которую другие пропустили». Какие у меня паттерны поведения, а не кто я. Бтв, в обычном общении с людьми тоже хорошо работает
→ Ну и глобально, кажется, у некоторых тулзов уже достаточно много информации про нас для выводов, которые оказываются сюрпризом. «Модель может разглядеть что-то, что юзер сам про себя не замечает». Это забавно
Добавить комментарий