В ерата на изкуствения интелект дългосрочен успех без етична рамка е непостижим

Селам Могис - Софтуерен Инженер в Apella и лектор на тазгодишната DevReach конференция. Снимка: Личен архив

Селам Могис е софтуерен инженер в Apella - технологична компания, разработваща медицински софтуер. Преди това тя е била част от различни инженерни екипи и такива за продуктов дизайн в Snapchat. Селам е застъпник на разнообразието, равнопоставеността и приобщаването на таланта и се стреми да направи технологичната среда едно по-приемащо място за всички. Интересите ѝ са в сферата на компютърната етика и използването на технологии по етичен и отговорен начин. 

Селам е един от лекторите на конференцията DevReach, която тази година ще се проведе на 25-26 октомври в Sofia Event Center в София. Economy.bg е медиен партньор на събитието.  Могис ще говори за компютърната етика и създаването на технологии, които са разработени по етичен начин и с грижа към крайния потребител. Свързахме се със Селам, за да поговорим повече за етичното използване на технологиите, което става и ще става все по-важно в ерата на изкуствения интелект. 

 Селам, предстои да Ви видим на тазгодишната конференция DevReach. Разкажете ни малко повече за Вашата лекция и какво могат да очакват посетителите от нея?
Тази година ще разкажа за компютърната етика и как хората, които се занимават с технологии, могат да включат етични принципи в работния си процес. В лекцията си ще наблегна на значението на етиката в ИТ света, разглеждайки проблеми като предубеждения в данни и алгоритми, изкуствен интелект и социалното въздействие на технологиите.

Кои са най-често срещаните етични казуси, пред които може да се изправи един разработчик? 
Казусите варират спрямо индустрията и нивото на развитие на съответната технология. Едно от основните притеснения в ерата на изкуствения интелект е етичното използване на технологиите. Колкото по-способен става изкуственият интелект да взема решения самостоятелно, толкова по-често се появяват проблеми, свързани с предубеждения в алгоритмите, отговорното обработване на данни и възможността AI да заостри социалните неравенства.

Напоследък темата за влиянието на изкуствения интелект върху различни индустрии и използването му по начин, който не вреди на хората, е доста популярна. Различните индустрии се срещат с уникални предизвикателства и възможности при интеграцията на изкуствен интелект в ежедневната работа. Например в здравеопазването казусът може да включва намирането на баланс между позитивите на диагностика, направена с изкуствен интелект, и предложенията за лечение, вземайки предвид опасенията за поверителността на данните и медицинската етика. Във финансовия сектор се срещат с друга ситуация, когато например се използва изкуствен интелект в алгоритмичната търговия и оценката на риска, което потенциално може да доведе до нестабилност на пазара или предубеждения в решенията за отпускане на кредит.

Как софтуерните инженери могат да се подсигурят, че работата им спазва етичните норми? Какви биха били последствията, ако не следват тези практики при писането на код?
Софтуерните инженери могат да се подсигурят, че работата им отговаря на етичните норми, като първо обърнат внимание на вътрешните системи и процеси в компанията, в която работят. Това може да изглежда по различни начини – въвеждане на обучения по етика, по-сериозно вплитане на обратната връзка от потребителите в процеса на разработка, както и непрекъснатото адаптиране на начините, по които се адресират постоянно променящите се нужди на потребителите. Ако тези неща не бъдат изпълнени, това може да доведе до вреда за крайния потребител, уронване на репутацията на компанията или продукта, дори и до проблеми от правен характер.

С нарастващата популярност на изкуствения интелект все по-често чуваме за предубеждения в данните, софтуерни халюцинации и още други фактори, които ни карат да се съмняваме в истинността на генерираните резултати. Как ще се разгърне тази тенденция във времето и как компаниите трябва да адресират този проблем?
Мисля, че компаниите се вълнуват от иновативните начини, по които могат да използват изкуствен интелект, за да създадат нови преживявания за своите потребители. Освен това възможността да работиш с една от най-модерните технологии е примамливо инженерно предизвикателство. Въпреки това имам притеснения, че бързината, с която се случва всичко, може да бъде за сметка на качеството на финалния продукт. Важно е да се отбележат възможните рискове, свързани с този ентусиазъм, най-вече по отношение на потенциалния компромис между скоростта и качеството на разработките на изкуствения интелект.

Компаниите не спират да търсят начини да се отличат на пазара, предоставяйки ангажиращи клиентски преживявания. Изкуственият интелект е мощен инструмент, с който да се постигне тази цел. AI-базирани функционалности като персонализация, алгоритми за препоръки и обработка на естествен език (NLP) могат да подсилят взаимодействието на потребителя с продуктите и услугите на дадена компания. Тази иновация може да доведе до по-висока удовлетвореност и лоялност на клиентите, както и до конкурентно предимство. В тази връзка компаниите трябва да разработят етична рамка, да правят детайлни тестове и да създадат колаборативна среда на работа, с което да ограничат шансовете за потенциални вреди.

Какво пропускат компаниите, които не са толкова внимателни спрямо етичните норми в името на това по-бързо да постигнат своите бизнес цели?
Организациите, които приоритизират бизнес целите си пред етичните норми, могат да постигнат краткосрочен успех, но често пропускат някои важни възможности за дългосрочни ползи. Те също така се излагат на риск от забавен растеж, занижена клиентска лоялност и липса на потребителско доверие. Етичните съображения често са в унисон с практиките за устойчив и отговорен бизнес. Пренебрегването им може да доведе до пропуснати възможности в развиващи се пазари, партньорства и иновации, които адресират нарастващия интерес към социално и екологично отговорни продукти и услуги. Например водещ производител на автомобили имаше правни проблеми, когато стана ясно, че компанията е инсталирала софтуер в своите дизелови автомобили, с който да се излъжат тестовете за вредни емисии. Това неетично поведение струва на компанията милиарди долари в глоби, съдебни дела и споразумения, опетнява името ѝ и води до оставката на хора на високи ръководни позиции.