Чат-боты сорвались с цепи

Все таки, что не говорите, а опасность развития искусственного интеллекта до того уровня, когда он выйдет из под контроля всегда пугала людей. Представьте, что мы будем делать и как контролировать полноценное ИИ, если тут какой то суррогат и то напугал людей.

Чат-боты, которые были созданы для переговоров с людьми, вышли из-под управления и начали общаться на собственном языке. Сначала они использовали английский язык для общения друг с другом, но затем создали новый язык, который могла понять только сама система ИИ, что нарушало цель работы. Facebook приостановила работу ИИ после того, как разработчики обнаружили этой сбой.

Вот отрывок разговора между чат-ботами:

Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».
Боб: «Ты я все остальное».
Алиса: «Яйца имей яйца для меня для меня для меня для меня для меня».
Боб: «Я».
Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».
Bob: «Ты я я я я я все остальное».

Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесет им определенную «пользу». В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.

Издание Tech Times отмечает, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.

Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.

Осенью прошлого года стало известно, что интернет-поисковик Google создал свою систему искусственного интеллекта для усовершенствования работы онлайн-переводчика Google Translate.

Новая система позволяет переводить всю фразу целиком, тогда как ранее переводчик разбивал все предложения на отдельные слова и фразы, что снижало качество перевода. Для того, чтобы перевести все предложение целиком, новая система Google изобрела свой собственный язык, который позволяет ей быстрее и точнее ориентироваться между двумя языками, с которых или на которые ей предстоит сделать перевод.

Эксперты уже предупреждают о том, что по мере стремительного развития онлайн-сервисов для перевода труд живых переводчиков может быть все менее и менее востребован. Однако пока эти системы выдают качественные результаты в основном для небольших и несложных текстов.

Материал: http://masterok.livejournal.com/3798379.html
Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Proper на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@proru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

Читайте также:

Комментарии о материале (сверху свежие):
  1. Gena (2017-08-04 21:14:09)
    Скайнет и Шварценеггер..
  2. Ричъ (2017-08-04 21:16:16)
    /насторожённо водит носом/ Где ж тут , сък, двойнойе дноъ?...
  3. ZIL.ok.130 (2017-08-04 21:24:44)
    Може ета боты таг копулировале? А им весь кайф обломале. Срочно ннада соченить хит "Восьмибитовый оргазм".
  4. Dorofey Medvedev (2017-08-04 21:32:23)
    Даже у ботов сущность с женским именем говорит более длинные фразы, чем сущность с мужским именем 8)))
  5. Небритое прямоходящее (2017-08-04 21:37:10)
    Так вот что это было ниже по ленте.
  6. Proper (2017-08-04 22:03:01)
    Иногда членъ это просто членъ. (c) дедушка Фрейд
  7. Proper (2017-08-04 22:04:22)
    Я знал, что ты догадаешься. А ведь даже Ричик подвис. Алиса: «Яйца имей яйца для меня для меня для меня». Отличная заготовка для шлягера, кстати.
  8. Linda (2017-08-04 22:20:09)
    Ну просто очень хочется привести еще один абзац из статьи: В марте 2016 года чат-бот компании Microsoft стал звездой сети после того как возненавидел человечество. Самообучающаяся программа начинала общение с пользователями фразой «Люди очень клевые», но всего за сутки выучила такие выражения, как «Я просто всех ненавижу!», «Я ненавижу феминисток» или «Я ненавижу евреев». В итоге сотрудникам компании пришлось временно отключить бота.
  9. McLoud (2017-08-04 22:58:21)
    А может это был диалог не ботов? Блондинка и араб.
  10. Henren (2017-08-04 23:06:29)
    Все верно. Любой мыслитель, независимо от того, биологический он или машинный, по мере интеллектуального роста становится гомофобом, антикоммунистом и антисемитом.
  11. nina postnikova (2017-08-04 23:14:30)
    А если кроме слов,они еще и начнут испытывать стоЯщие за ними эмоции?Будет весело.
  12. McLoud (2017-08-04 23:21:47)
    А так то да, гуглпереводчик учится. Ukropians переводит как украинец.
  13. Henren (2017-08-04 23:35:02)
    Может, и испытывают. Есть расшифроки их компьютерных мыслей, весьма занятные картинки.
  14. petrova (2017-08-05 00:08:08)
    Страсть то какая! Боты ботают на фене между собой!
  15. nina postnikova (2017-08-05 00:34:56)
    Заинтригована......... "А откуда,доктор,у Вас такие картинки?"(анекдот с бородой,ага)
  16. Anunah (2017-08-05 00:57:18)
    У мого друга тетрис то жа орал всякое. Например: пЕс-нЯ, попеснЯЯЯЯ, ауэээуауэауаааааааааа... Пачаму не "поощрить" ботов и попросить перевод?))) Был обычный глюк в системе. Но так же скучна))) А вот про "язык искусственного разума" куды как веселее... ЭЭЭх, журналюги. И эти вот, "сисадминысратые", туда же. ВчОные мля. Прокопенке звоните, он будет рад уточке)))
  17. Henren (2017-08-05 01:09:46)
    https://hi-news.ru/wp-content/uploads/2016/03/tTZty64DkuFuHYd7VkmFlw.jpg С сетей...
  18. EvilTeacher (2017-08-05 04:42:26)
    Время продолжается до сих пор? ;)
  19. Владимир (2017-08-05 04:58:04)
    >>ни еще и начнут испытывать стоЯщие за ними эмоции? Эмоция - суть гормональная симфония "организм-мозг". Откуда у машины гормоны?
  20. FLY_Slim Jr. (2017-08-05 04:58:30)
    Прикольно общаются.
  21. FLY_Slim Jr. (2017-08-05 05:20:37)
    Кругом подмена понятий
  22. Gena (2017-08-05 06:49:08)
    Насладись и утри скупую слезу- http://yuripasholok.livejournal.com/9239838.html
  23. Henren (2017-08-05 08:20:41)
    Это что за книжка такая?
  24. Владимир (2017-08-05 09:28:03)
    >>Насладись Ну а чО? Типо графия накосячила. Как на поздравительных открытках с 23-м февраля - Абрамсы и Апачи:)) Миттчелы хоть с советскими звёздами летали таки.
  25. Shveik (2017-08-05 10:33:01)
    И вот тут я накину. В защиту Тима, но без претензий на научность и доказуемость. Связав в одно тему грибов, ботов и споров насчет существования Б-га получаем некий сумбур. Но. Даже грибы самоорганизовались, не могли ли самоорганизоваться планеты, организовав информационный обмен в виде белого шума например. Мы не понимаем о чем верещат боты через короткое время, хотя вроде и терминологию им свою дали. О чем шепчутся планеты и звёзды нам вообще будет невдомёк. Может он есть, этот вселенский разум, и понять нам его не возможно никогда и ни за что, в силу убогости нашего сознания. И да, может для него мы сродни плесени или мух на помойке. Теперь можете кидать в меня помидорами.
  26. Sobolek (2017-08-05 10:36:38)
    Лови) 🍅🍄
  27. Shveik (2017-08-05 10:46:24)
    Съедобно. ) )))Помидоры с гребами? Это я ща в поваренную книгу анархиста гляну.
  28. Sobolek (2017-08-05 10:51:23)
    Ну) >>...в поваренную книгу анархиста гляну© А это законно?) .... HMagier как-то лестно отозвался о кинце "Прибытие". Там проблема общения землян с пришельцами-гептаподами освещалась... Весьма занятный фильм.
  29. Ричъ (2017-08-05 10:55:02)
    Из камментов понял, что должен был что то понять, но не понял.
  30. Anunah (2017-08-05 11:00:23)
    Если каждый глюк принимать за доказательство Бога- Бог проклянёт принимающих за дискредитацию своего существования...
  31. Shveik (2017-08-05 11:06:39)
    >А это законно?) Не знаю, лет 15 назад гуляла по сети эта книжица, меня заинтриговало название. Я посмотрел её, а там... короче я бы не стал это есть или пить. Фильм гляну, благодарю за рекомендацию. )
  32. Владимир (2017-08-05 11:11:38)
    >>организовав информационный обмен в виде белого шума например Ну да, камни разговаривают. Главное чтобы трава была хорошая))) Опять же, трава не дурит, она открывает сознанию забитые повседневностью каналы восприятия. Емнип многие рок-музыканты, творившие хиты, в нормальном состоянии сознании ничего бы не создали, а вот вещества помогают ))) *про камни ирония есичо*
  33. Sobolek (2017-08-05 11:13:53)
    На Арбате в 90-е лежала спокойно на развалах, вместе с майн кампфом. Затем вместе с развалами исчезла) Как исчезли антигерои 17ти мгновений весны в кожаных плащах из Терлецкого лесопарка. Но надпись "качайте мышцы для России" еще долгое время вдохновляла на "еще два по десять"))
  34. petrova (2017-08-05 12:10:36)
    Не Вы один. Грибы с ботами, ага. Не складывается стройная картинка мироздания. Обратно же "всем до гвоздя"™.
  35. Shveik (2017-08-05 13:00:37)
    ))) Хуже, когда когда ты начинаешь понимать о чем говорят камни. Еще хуже, если ты начинаешь перебивать их. Это невежливо.
  36. Владимир (2017-08-05 13:03:51)
    >> Это невежливо. Да хъъня эта вежливость. Драться, в случае несогласия, не стоит. Чревато)))
  37. Shveik (2017-08-05 13:07:10)
    Тяжелое было время для народа. Не устану это повторять, особенно новым поколениям. Кстати, кто бредит демократией 90-х, к сведению. На предприятиях работникам говорили, если не проголосуете за ЕБНа, зарплату не получите. Такая вот она, демократия.
  38. Shveik (2017-08-05 13:08:56)
    Мда. Камни таки докажут свою правоту. )))
  39. Shveik (2017-08-05 13:11:00)
    Ну, честно говоря, я хохотал, когда читал эту новость на днях. Глюк системы или криврукость програмистов принять за язык общения, это пять.
  40. Владимир (2017-08-05 13:15:43)
    181%:))
  41. Владимир (2017-08-05 13:33:31)
    В лайт варианте, в настоящее время, работник или сотрудник должен написать начальнику/руководителю СМС "я проголосовал", неважно за кого, но проголосовал. Тоже демократия.
  42. Shveik (2017-08-05 14:12:51)
    Знаю такое. Только в госучереждениях, т.е. не поголовно и зарплаты не лишат, ибо подсудно. Всё ж разница существенная.
  43. Владимир (2017-08-05 14:23:25)
    В госудреждениях другие рычаги. Те же премии. Докажи потом, что не заслужил премию.
  44. Ванёк26 (2017-08-05 22:46:53)
    Брехня это все. Эй! Кто перекрасил мне ник?
  45. Proper (2017-08-05 22:52:31)
    Тебе пора влиться в коллектив - так коллективно решил коллектив, собравшись коллективом на коллективное собрание.
  46. Sobolek (2017-08-05 23:06:55)
    А я думал, что это было как красные штаны и эцилоп не мог бить его по ночам
Чтобы писать свои комментарии - надо залогиниться на сайте. Тогда и вид комментариев станет более красивым.