Интерес ИТ-специалистов к генеративному ИИ сдерживается техническими и этическими проблемами
Новый опрос компании Salesforce Inc., в котором приняли участие более 500 ИТ-руководителей, показал, что большинство (67%) считают генеративный искусственный интеллект (ИИ) приоритетом для бизнеса в ближайшие 18 месяцев, и более трети назвали это главным приоритетом.
Генеративный ИИ — это разновидность технологии искусственного интеллекта, которая может создавать множество типов контента, таких как текст, изображения и аудио. Он позволяет компьютерам абстрагировать новую информацию от базовых данных, относящихся к контенту, и генерировать аналогичный контент. В последнее время генеративный ИИ был популяризирован такими примерами, как искусственный интеллект DALL-E, который генерирует изображения на основе текстовых описаний, предоставленных пользователями, и ChatGPT, чат-бот с искусственным интеллектом, который может вести беседы, писать песни, отвечать на исследовательские вопросы и многое другое.
Опрос показал, что более 57% ИТ-специалистов считают, что генеративный ИИ «изменит правила игры» для их бизнеса и поможет лучше обслуживать клиентов, используя преимущества данных, предоставляя новые услуги и помогая сотрудникам автоматизировать утомительную работу.
«Генеративный ИИ представляет собой шаг вперед в том, как организации во всех отраслях будут анализировать данные, автоматизировать процессы и расширять возможности специалистов по продажам, сервису, маркетингу и коммерции для улучшения отношений с клиентами. Но это также сопряжено и с новыми рисками и вызовами», — сказала Клара Ши, исполнительный директор Service Cloud в Salesforce.
Однако на пути внедрения генеративного ИИ есть препятствия, связанные с потенциальными проблемами безопасности и этическими проблемами, возникающими из-за предвзятости. Как и любая новая технология, генеративный искусственный интеллект все еще находится в зачаточном состоянии и переживает трудности роста.
Треть опрошенных заявили, что, по их мнению, технология «чрезмерно разрекламирована» и это может принести с собой дополнительные проблемы, которые необходимо решить, прежде чем технологию можно будет полностью интегрировать в разработку приложений. Две трети опрошенных заявили, что пока не готовы внедрять технологию ИИ, учитывая, что это может вызвать новые проблемы с безопасностью. К тому же, компаниям придется обучать своих сотрудников и разрабатывать новые стратегии.
59% опрошенных считают, что большинство результатов генеративного ИИ могут быть неточными, и почти две трети согласились с тем, что они могут быть предвзятыми, например, содержать дезинформацию или разжигать ненависть. Это вызвало этические опасения по поводу использования генеративного ИИ. Яркие примеры включают неустойчивое поведение поисковой системы Bing на базе ChatGPT от Microsoft Corp., а также фактическую ошибку, допущенную во время демонстрационного показа чат-ботом Bard от Google.
Зная, что эти проблемы возникнут в процессе внедрения генеративного искусственного интеллекта, почти все опрошенные ИТ-специалисты (99%) заявили, что их компании должны будут сперва решить эти проблемы и принять меры для подготовки к внедрению. Однако только 30% респондентов считают, что при использовании генеративного искусственного интеллекта в своих компаниях им следует придерживаться этических принципов использования.
Около 81% заявили, что они будут использовать как общедоступные, так и частные источники, чтобы уменьшить вероятность использования для ответов недостоверной информации, а 83 % заявили, что будут сотрудничать с другими предприятиями, чтобы улучшить этичное использование технологии
«Независимо от того, генерируете ли вы специальное электронное письмо с предложением о продаже или отвечаете в чате службы поддержки, этический подход, основанный на надежных данных и рабочих процессах с участием человека, — это то, что позволит предприятиям безопасно и ответственно использовать генеративный ИИ для удовлетворения сегодняшних растущих ожиданий клиентов», - сказал Ши.
