Сливането на хората и машините няма да спре Бунтът на машините

Главен изпълнителен директор на основателя Tesla Елон Мъск OpenAI миналата седмица предполага, че човечеството може да неутрализира страха им от Бунтът на машините (т.е. роботи) чрез сливане с същите тези машини и трансформацията в киборг. Въпреки това, съвременните тенденции в областта на изкуствения интелект, изострени от чисто софтуер и по-задълбочено обучение технологията повдигат сериозни съмнения по отношение на базата на подобни изказвания, особено в дългосрочен план. И това е свързано не само с хардуерни ограничения, но и с ролята на човешкия мозък във всичко това.

Сливането на хората и машините няма да спре Бунтът на машините

Маската е много ясна теза: развития достатъчно мозък-компютър интерфейс ще позволи на хората да се увеличат значително шансовете си, по-добре е да се използват техники като машинно обучение и дълбоко обучение. Но това ще бъде двупосочен обмен на. Brain-компютърен интерфейс, за да запълнят празнините в алгоритмите за машинно обучение за сметка на хора, например, когато правите контекстуални решения. Самата идея не е нова. Licklider и други спекулират за възможността и последиците от "симбиоза на мъж и компютър" в средата на 20-ти век.

Напредъкът е бавен. Не на последно място, защото на развитието на хардуера. "Ако причината хардуер (хардуер) името - защото е трудно (трудно)", заяви Тони Fadell, създателят на Ipod. И за да се създаде хардуер, който ще бъде свързан с органични системи ще бъде още по-трудно.

Съвременните технологии са примитивни в сравнение с изображения на мозъка-компютърен интерфейс в научнофантастични филми като "Матрицата".

моди дълбоко живот

Ако приемем, че е хардуерен проблем в крайна сметка ще бъде решен, остават други проблеми. През последното десетилетие на изключителни постижения в областта на дълбоко изучаване проучване установи, че някои от пречките за преодоляване не е толкова прост.

На първо място, ние просто не разбирам и не мога да опиша как точно комплекс функцията за невронна мрежа. Ние разчитаме на прости технологии, като калкулатор, защото знаем, че тя винаги ще направи точно това, което искаме от него. грешките си - това е почти винаги е резултат от погрешни действия от страна на човека.

Например, ние бихме искали да допълни нашата машина ще ни позволи да станем съвършени в аритметиката. За да получите вместо калкулатор или смартфон, може да се мисли за изчисляване и да получите моментален отговор от спомагателни машината.

Нещата стават по-сложни, когато се опита да се свърже по-разширени функции, предлагани от методите на обучение машина. Например, по-задълбочено обучение.

Да речем, че използвате сигурността на служителите на летищата и мозъкът ви допълва машината, която автоматично сканира хилядите хора, които виждате всеки ден, като предупреди за потенциални рискове за сигурността.

Сливането на хората и машините няма да спре Бунтът на машините

Повечето от системите за машинно обучение страдат от скандалния проблем: когато една малка промяна във външния вид или предмет може да причини неизправност в системата, а не да го даде точно класифициране на обекта. Промяна на изображението на лицето на 1% - и машинната система може да мисля, че това е велосипед. Терористи или престъпници могат да използват различни уязвими машини, заобикаляйки проверки за сигурност. Този проблем вече е предотвратява онлайн сигурността. Хората, макар и ограничени по някакъв начин, няма да бъдат изложени на такова отклонение.

Въпреки факта, че машината има репутацията безпристрастен, машинно обучение технологии също страдат от предразсъдъци и дори могат да проявят расистко поведение, ако въведете съответните данни. Тази непредсказуемост има сериозни последици за това как хората ще се свързват към машината и как да й вярвам.

Повярвай ми, аз съм робот

Доверието - това е двупосочна улица. Човешката мисъл - това е сложна, много динамична активност. Докато колата, за да разбера каква част от човешкото пристрастие да се игнорира? В крайна сметка, всички ние го кажем, че не е осъществяването на този доклад. Как да се създаде технология, която ще ви помогне да наемат хора да работят?

До известна степен, можем да видим проблемите на доверие в мозъка-компютърен интерфейс, ако погледнем как отбранителните сили по целия свят се опитват да решат проблема с доверието на хората към машините за смесена област. Хората се опитват да се доверят на машината, и машината - хората.

Има паралел между борбата робот, който е на етично решение да не обръща внимание на незаконна заповедта, дадена от един човек, и това, което се случва в интерфейса на мозъка компютър: машината трябва да се тълкува мислите на даден човек и да филтрирате мимолетни мисли и дълбоко безсъзнание пристрастия. В сценария на отбраната, логическата част на човешкия мозък ще бъде да тестват етиката на такива решения. Но това, което се случва, когато човешкият мозък е свързан с една машина, която е в състояние да направи логически заключения въз основа на данните от такъв мащаб, който не мозък не може да разбере и да разберат?

В дългосрочен план, въпросът е кога и как хората ще бъдат ангажирани в процесите, които все по-често определят от машините. Много скоро, машината ще направи медицински решения, които никой човек или екип от хора, които не могат да разберат. Каква роля ще играе мозъка в този процес?

В някои случаи, комбинация от автоматизация и човешките работници може да увеличи броя на работните места, но този ефект ще бъде краткотраен, най-вероятно. Същите роботи и системи за автоматизация ще бъдат подобрени, като същевременно не се елиминират чрез своите същите работни места. По подобен начин, хората, които ще играят "полезни" роля в мозъка-компютърен интерфейс, ще бъдат по-малко, включени в тази верига, тъй като технологията ще се подобри.

Идеята за продължаващото значение на човечеството чрез интеграция на мозъка изкуственото човешкия звучи привлекателно. Но ние все още трябва да разбера какво вноската ще направи човешкия мозък, ако развитието на технологиите в навечерието на развиващия се мозък е един милион пъти.

Свързани статии