Розвиток AI-технологій та адаптація соціуму: приклад Im2be
З цікавих спостережень.
Сьогодні розвиток AI-технологій відбувається значно швидше, ніж адаптація соціуму до їх сприйняття. І це регулярно призводить до того, що ми в Im2be, між собою, називаємо «rollback функціоналу», або «відкат до кращих часів».
Поєднання AI та психології, сама по собі тема складна і дуже тонка. Бувало таке, що команді здавалося: ось він, реально класний функціонал. З одного боку, при коректному використанні, він може суттєво допомагати у вирішенні складних сімейних ситуацій. З іншого, потенційно, може нести ризик та непередбачувані наслідки.
Одна з таких «фіч», яку нам довелося частково вимкнути «до кращих часів» — це Im2be Sentiment Analysis.
По суті, професійні психологи дотичні до Im2be проекту, дотрейнили/довчили AI-модель аналізувати поведінку користувачів у системі: стиль спілкування в сімейних чатах, швидкість і якість виконання завдань членами родини, дані з mood diary, патерни активності тощо.
На виході це давало можливість: формувати своєрідні Alert для батьків, якщо в дитини з’являлися маркери депресивних станів, нагадувати партнерам, що вони давно не проводили час разом, допомогти адаптувати сімейну розмову до поведінки конкретного члена родини.
Звучить круто, правда?
Але коли ми почали системно проганяти negative cases і накладати їх на вимоги європейського AI Act, стало зрозуміло, що, можливо, ще трошки зарано. Технічно — усе працювало. А от з точки зору етики, відповідальності й готовності суспільства — поки що зарано. У результаті більшу частину цього функціоналу довелося від’єднати, свідомо, відклавши його до моменту, коли соціум буде більш адаптований до таких інструментів.
Водночас наш FlowCoach — AI-психолог і своєрідний коуч для сімей, який ми, разом з сімейними психологами, постійно адаптуємо до реальних життєвих сценаріїв, наразі, показує себе доволі добре. Обережніше, простіше, з більшим фокусом на підтримку, а не на «діагностику».
Головне правило, якого притримується команда, Im2be — це не про «ще більше AI», це про баланс між технологіями, психологією та відповідальністю.
За матеріалом https://dou.ua/forums/topic/57096/
Клонка Ярослова Клочника