Google и OpenAI описано пять вызовов к созданию роботов с искусственным интеллектом

Глoбaльный Взгляд Прeсс

Google и OpenAI вмeстe с исслeдoвaтeлями из Кaлифoрнийскoгo унивeрситeтa в Бeркли и Стэнфoрдский Унивeрситeт выдeлил пять прaктичeскиx прoблeм, связaнныx с разработкой машин с искусственным интеллектом. Технические подробности работы приведены в тексте, опубликованном на ArXiv.orgи простые примеры проблема, описанная в блоге Google, один из соавтор исследования Крис Оле.

Как говорится в публикации, есть еще много разговоров об опасности искусственного интеллекта был спекулятивный. Совместное исследование компаний и университетов позволило описать конкретные проблемы, которые необходимо решать при проектировании систем с искусственным интеллектом.

Первая из этих проблем называется «избежать негативных последствий» и то, что ИИ может выполнять различные вредные действия для достижения целей. Таким образом, робот может разбить вазу, чтобы ускорить процесс очистки.

Вторая проблема относится к возможности робота мошенничества с ИИ. Например, как человек ленивый, этот же робот может быть только на сокрытие мусора и не удалять его. Возможно, в этом примере, это, между прочим, пыль, подгоняя под ковер.

Третий вопрос включает в себя вопросы на основе ПИ обратной связи от человека, чтобы успешно выполнить поставленную задачу. Итак, если вы чище, вы получите рекомендации человек в процессе, он будет использовать его, не задавая много дополнительных вопросов.

Четвертая проблема касается опасности, которую может представлять экспериментальной деятельности ИИ. Например, робот может тестировать различные методы влажной уборки, но это определенно не должен пытаться стереть из розетки с мокрой кистью.

Наконец, последняя из проблем, связанных с изменением использования окружающей среды робота. Таким образом, робот, привыкший к работе на предприятии, она может быть небезопасной обстановки в офисе.

По словам Оле, сообщества исследователей в области машинного обучения уже обращая внимание на большую часть проблем, описанных выше, но они должны сделать больше вещей.

Комментирование и размещение ссылок запрещено.

Комментарии закрыты.