Ущерб по умолчанию

Будущее технологии проектирования должно быть радикально всеобъемлющим и невероятно чувствительным

На этой неделе Apple выпустила новую пару AirPods. Дизайн выглядит точно так же, как старая пара AirPods. Это означает, что я никогда не буду использовать их, потому что выпуклые наушники Apple не подходят для моих ушей. Думайте квадратный колышек, круглое отверстие

Единственный способ, которым я мог раскачивать AirPods. это ходить с руками, зажатыми по бокам головы, чтобы они не выпали. Это может быть хорошим дополнением в глянцевой рекламе Apple для гизмо. наводит на мысль о близости музыки, так что вы не можете помочь, кроме чашки; наводящая на размышления визуальная метафора для слуховой близости Apple, безусловно, хочет, чтобы ее технология сообщалась.

Но реальность попытки использовать наушники, которые не подходят, совсем не такова. Это просто дерьмо. Они выпадают при малейшем движении, поэтому вы либо сидите и никогда не поворачиваете голову, либо, да, держите их руками. О, хай, руки не такие свободные!

Очевидным моментом здесь является то, что один размер подходит не всем. сколько бы ни были Apple Джони Айв и его тихая команда дизайнеров считают, что они разработали универсальный вкладыш, который плотно вставляется в каждое ухо и просто работает. Извините, нет!

Привет @tim_cook, я исправил этот эскиз для вас. Представляем #InPods. потому что один размер не подходит для всех 😉 pic.twitter.com/jubagMnwjt

Часть пользователей iOS. возможно, другие миниатюрные женщины, такие как я, или мужчины с менее емкими ушными отверстиями. просто удаляются из уравнения продаж Apple, касающегося наушников. Apple делает вид, что мы не существуем.

Конечно, мы можем просто купить еще одну марку более подходящих по размеру наушников. Наушники с шумоподавлением. мои предпочтения. Apple не делает «InPods». Но это не так уж важно. Ну, пока нет.

Это правда, потребительский технологический гигант также удалил разъем для наушников из iPhone. Тем самым обесценивая мою существующую пару проводных наушников-вкладышей (если я когда-либо обновлюсь до iPhone без 3,5 мм разъема). Но я мог бы просто раскошелиться на беспроводные наушники-вкладыши Bluetooth, которые подходят к моим раковинным ушам и держатся как обычно.

Конечно, универсальные наушники-вкладыши существуют годами. Восхитительная концепция дизайна. Вы получаете выбор резиновых колпачков разных размеров, поставляемых вместе с продуктом, и выбираете размер, который лучше всего подходит.

К сожалению, Apple не занимается бизнесом InPods. Возможно по эстетическим причинам. Скорее всего, потому что. и здесь есть более чем небольшая ирония. дизайн в ухе не будет естественно достаточно вместительным, чтобы соответствовать всем вещам, в которых Сири нуждается, знаете ли, в искусственном интеллекте.

Это означает, что такие люди, как я, с маленькими ушами, переходят на голосового помощника Apple. Итак, это AI: 1, человек нестандартного размера: 0. Что также, что неудивительно, похоже на дерьмо.

Я говорю «пока», потому что, если голосовые вычисления действительно станут следующей основной парадигмой компьютерного взаимодействия, как полагают некоторые, учитывая то, как интернет-соединение настроено так, чтобы запекаться во всем (а приклеивание экранов везде было бы визуальным кошмаром и удобством в использовании; кошмар частной жизни.). тогда меньшинство людей с миниатюрными ушными раковинами окажется в невыгодном положении по сравнению с теми, кто может просто заскочить в свой умный, набитый сенсором вкладыш и продолжать говорить своим интернет-окружениям, чтобы они сделали ставку.

Будут ли родители будущих поколений дизайнерских детей выбирать достаточно емкие ушные раковины, чтобы их ребенок мог использовать искусственный интеллект? Будем надеяться, что нет.

Мы также пока не находимся в единственном числе голосовых вычислений. Вне обычных технических пузырей это остается немного новой уловкой. Amazon вызвал некоторый интерес к интеллектуальным колонкам, оснащенным собственным голосом AI Alexa (выбор бренда, который, кстати, вызвал словесную головную боль у реальных людей, называемых Alexa). Хотя его умные колонки Echo, похоже, в основном используются как дорогие шашки и таймеры для яиц. Или для воспроизведения музыки. функция, которую с удовольствием выполнит стандартный динамик или смартфон.

Конечно, голосовой ИИ еще не нужен вам 24/7. Нажатие на сенсорный экран остается стандартным способом использования возможностей и удобства мобильных компьютеров для большинства потребителей на развитых рынках.

Дело в том, что, тем не менее, это все еще может быть проигнорировано. Чтобы сказать. даже косвенно. одна из самых богатых в мире компаний-производителей потребительских технологий, что она не верит, что ваши уши существуют.

Или хорошо, что он взвесил расчеты по продажам и решил, что все в порядке. бросить миниатюрное меньшинство на раскройный пол. Так что это «ухо встретить AirPod». Не «AirPod встретиться с ухом» тогда.

Но основная проблема гораздо больше, чем у наушников Apple (в моем случае) негабаритных. Его последний блестящий набор AirPods является просто неуместным напоминанием о том, как много технологических дефолтов просто не «вписываются» в мир, как утверждают.

Потому что, если Apple, богатая наличными, согласна продвигать универсальный дефолт (а это не так), подумайте о тех менее технологически обеспеченных технологических компаниях, которые гонятся за шкалой для других одноразмерных, плохо подходящих решений. И все проблемы, вытекающие из попыток навязать плохо намеченные технологии обществу в целом.

Когда речь шла о физическом наборе неправильного размера, у меня были похожие проблемы со стандартным офисным компьютерным оборудованием и мебелью. Продукты, которые кажутся. сюрприз, сюрприз! по умолчанию был разработан с учетом 6-футового обвязки. Клавиатуры так долго, что они в конечном итоге дарят меньший пользовательский RSI. Офисные стулья, которые доставляют хроническую боль в спине как услугу. Коренастые мыши, которые быстро ломают руку от боли. (Я тоже боюсь, что Apple является историческим преступником).

Исправления для таких эргономических ошибок дизайна просто не использовать комплект. Чтобы найти альтернативу лучшего размера (часто DIY), которая подходит.

Но исправление «сделай сам» может не подойти, если несоответствие внедрено на уровне программного обеспечения. и когда система применяется к вам, а не к человеку, который хочет дополнить себя небольшим количеством технологий, таких как пара умных наушников ,

С программным обеспечением также может быть труднее обнаружить встроенные недостатки и сбои в проектировании системы, поскольку не всегда сразу очевидно, что есть проблема. Часто алгоритмический уклон не виден до тех пор ущерб был нанесен.

И уже нет недостатка в историях о том, как программные настройки по умолчанию, настроенные на предвзятую медиану, в конечном итоге наносят реальный вред. (См., Например: анализ ProPublica инструмента рецидивизма COMPAS. программное обеспечение, которое он обнаружил неправильно оценивающим черных обвиняемых с большей вероятностью обидеть, чем белых. Таким образом, программное обеспечение усиливает существующие расовые предрассудки.)

Конечно, ИИ усугубляет эту проблему.

Вот почему акцент должен быть сделан на выявлении предвзятости в наборах данных. до того, как появится возможность систематизировать предубеждение или предвзятость и внедрить в алгоритмы, которые могут нанести ущерб в масштабе.

Алгоритмы также должны быть объяснимы. И результаты проверяемы. Прозрачность как дезинфицирующее средство; не секретные чёрные ящики, набитые непознаваемым кодом.

Выполнение всего этого требует огромных предварительных размышлений и усилий по проектированию системы и еще большего изменения отношения. Это также нуждается в огромном, огромном внимании к разнообразию. Отраслевая борьба за многогранную и многогранную реальность человечества и за то, чтобы это отражалось как на данных, так и на выборе дизайна (и поэтому команды, занимающиеся дизайном и разработкой).

Можно сказать, что для этого нужно признание, которого никогда не было, когда-либо подходящего всем.

Действительно, что все алгоритмические «решения» являются абстракциями, которые ставят под угрозу точность и полезность. И что эти компромиссы могут стать злобно режущими ножами, которые исключают, отрицают, ставят в невыгодное положение, удаляют и наносят ущерб людям в масштабе.

Дорогие наушники, которые не останутся на месте. всего лишь удобная визуальная метафора.

И хотя в последние годы усилились дискуссии о рисках и проблемах алгоритмического смещения по мере распространения технологий искусственного интеллекта, в ходе которых основные технические конференции активно обсуждали вопрос о том, как «демократизировать ИИ» и вносить разнообразие и этику в проектирование системы посредством сосредоточения внимания на принципах. как прозрачность, объяснимость, подотчетность и справедливость. отрасль даже не начала решать свою проблему разнообразия.

Это едва двигало иглу на разнообразии. И его продукты продолжают отражать этот фундаментальный недостаток.

Стэнфорд только что с большим энтузиазмом запустил свой Институт искусственного интеллекта, ориентированного на человека (@StanfordHAI). Миссия: «Создатели и дизайнеры ИИ должны быть широко представительными для человечества».

121 профессорско-преподавательский состав в списке.

Ни один преподаватель не является черным. pic.twitter.com/znCU6zAxui

— Чад Лодер ❁ (@chadloder) 21 марта 2019 г.

Ущерб по умолчанию

Многие, если не большинство, проблем технической индустрии можно отнести к тому факту, что неадекватно разнородные команды гоняются за масштабами, в то время как отсутствие перспективы для реализации их системного дизайна приводит к тому, что вред людям наносится в качестве фактической меры производительности. (Хотя «отсутствие перспективы» является благотворительной интерпретацией в некоторых случаях; моральный вакуум может быть ближе к цели.)

Как отметил создатель WWW сэр Тим Бернерс-Ли, системный дизайн теперь является общественным дизайном. Это означает, что инженеры, программисты, технологи ИИ все работают на переднем крае этики. Выбор дизайна, который они делают, может влиять, влиять и формировать жизни миллионов и даже миллиардов людей.

А когда вы проектируете общество, медианное мышление и ограниченная перспектива не могут быть приемлемой основой. Это также рецепт для отказа продукта в будущем.

Нынешняя реакция против крупных технологий показывает, что ставки и ущерб очень реальны, когда плохо разработанные технологии безрассудно обрушиваются на людей.

Жизнь грязная и сложная. Люди не подойдут к платформе, которая упрощает и упускает из виду. И если вы оправдываете масштабирование вреда «мы просто не думали об этом», вы потерпели неудачу на своей работе и действительно должны выйти за дверь.

Потому что последствия исключения из-за неправильной конструкции системы также увеличиваются и увеличиваются по мере распространения платформ и автоматизации решений, влияющих на жизнь. Вред в квадрате. Несмотря на то, что основной отраслевой барабан не пропустил ни одного удара в своем прогнозе, что все будут оцифрованы.

Это означает, что ужасно предвзятые системы условно-досрочного освобождения являются лишь верхушкой этического айсберга. Подумайте о здравоохранении, социальном обеспечении, правоохранительной деятельности, образовании, найме, транспортировке, строительстве, городской среде, сельском хозяйстве, армии, списке того, что будет оцифровано. и о ручных или человеческих процессах, которые будут систематизированы и автоматизированы. продолжается ,

Программное обеспечение. управляет отраслевой мантрой. пожирает мир. Это означает, что плохо разработанные технологические продукты будут вредить все большему количеству людей.

Но ответственность за социально-техническое несоответствие не может быть просто уменьшена, так как такой большой «побочный ущерб».

Таким образом, хотя «элитная» команда дизайнеров во главе со знаменитым белым парнем могла бы создать приятный изогнутый вкладыш, такой подход не может и не автоматически переводится в AirPods с идеальной универсальной посадкой.

Это чей-то стандарт. Это конечно не мое.

Мы можем утверждать, что более разнообразная команда разработчиков Apple могла бы переосмыслить дизайн AirPod, чтобы не исключать тех, у кого меньше уши. Или сделайте случай, чтобы убедить власть имущих в Купертино добавить другой размер. Мы можем только догадываться.

Что ясно, так это то, что будущее технологического дизайна не может быть таким упрямым.

Он должен быть радикально инклюзивным и невероятно чувствительным. Человек-ориентированный. Не привязан к разрушительным дефолтам в спешке навязать ограниченный набор идей.

Прежде всего, это нуждается в слухе на слух.

Безразличие к разнице и слепое пятно для разнообразия не найдут здесь будущего.