Čovjek protiv stroja: Može Računala Cook, Napišite i Paint bolji od nas?

Man v Machine: Can Computers Cook, Write and Paint Better Than Us?

Umjetna inteligencija sada mogu osvojiti igru, prepoznavanje lica, čak i žalbu protiv parking kartu. No, to može učiniti stvari čak i ljudi naći lukav?


Pokreće Guardian.co.ukOvaj članak pod naslovom “Čovjek protiv stroja: može računala kuhati, pisati i slikati bolje od nas?” napisao je Leo Benedictus, The Guardian u subotu 4. lipnja 2016 08.00 UTC

jedan video, Za mene, mijenja sve. To je snimka iz stare Atari igre Bijeg, onaj gdje se klize veslo lijevo i desno na dnu zaslona, pokušava uništiti cigle odskakanje lopte u njih. Možda ste čitali o igraču igre: algoritam razvijen od strane DeepMind, Britanci umjetne inteligencije tvrtka čija AlphaGo Program također pobijedio jedan od najvećih ikad Idi igrače, Lee Sedol, ranije ove godine.

Možda očekujete računalo biti dobar u računalnim igrama? Nakon što su znali što učiniti, oni sigurno to učiniti brže i više dosljedno nego bilo čovjeka. DeepMind je bijeg igrač ne zna ništa, međutim. To nije bio programiran s uputama kako igra radi; to nije ni rekao kako koristiti kontrole. Sve što je imao bio je sliku na ekranu i naredbu pokušati dobiti što više bodova moguće.

Gledati video. Isprva, veslo omogućuje pad loptu u zaborav, znajući ništa bolje. Konačno, Samo mucking o, to kuca loptu natrag, uništava cigle i dobiva bod, tako da prepoznaje i češće se. Nakon dva sata prakse, ili oko 300 igre, postalo je ozbiljno dobro, bolje nego vi ili ja nikada neće biti. Onda, nakon što je oko 600 igre, stvari postaju zastrašujuće. Algoritam započinje s ciljem na istom mjestu, neprestano, kako bi se buše kroz opeke u prostor iza. Jednom tamo, kao i bilo Bijeg igrač zna, lopta će odskočiti okolo neko vrijeme, prikupljanje besplatne bodove. To je dobra strategija da je računalo je došao gore sa na vlastitu.

"Kada su naši istraživači vidio ovo, da ih zapravo šokirala,"CEO DeepMind-a, Demis Hassabis, rekao je publiku na tehnološka konferencija u Parizu. Možeš gledati svoju demonstraciju, previše, i čuti smijeh i pljesak kad je uređaj otkrije svoju burrowing strategiju. Računalo je postalo inteligentni, pomalo poput nas.

"Umjetna inteligencija" je samo o najstariji i najveći hiper o svim računalnim a buzz fraza. Ideja je prvi put raspravlja ozbiljno Alan Turing u Computing Machinery i inteligencija, the 1950 papir u kojem je predložio ono što je postalo poznato kao Turingov Test: ako stroj može vas uvjeriti u razgovoru da je ljudski, to je bio događaj onoliko koliko svaki čovjek mogao dokazati da je zaista razmišljao. No, pojam AI nije općenito koristiti dok 1955, kada Američki matematičar John McCarthy predložio je konferenciju za stručnjake. Ovo je održan i sljedeće godine, i od tada je polje je raditi na otprilike dva desetljeća ciklusa manije i očaja. (Istraživači imaju čak i novi pojam - "AI zimu" - kako bi opisao svoje čarolije iz mode. 1970-ih i 1990-ih su bili posebno surovi.)

Danas postoji nova manija, koji izgleda drugačije od drugih: se uklapa u vaš džep. Telefon može pobijediti svjetski šahovski prvak, prepoznati pjesme na radiju i slike svoje djece, i prevesti vaš glas na drugi jezik. NDO-robot ovdje na slici s Yotam Ottolenghi može hodati na dvije noge, govoriti, naći loptu, pa čak i ples. (To je robot, iako, ne AI: ne može dizajnirati izbornika.)

Saznavši za napredak u AI, ne morate stručnjaka koji će vam reći da je uzbuđen, ili prestrašen. Vi samo početi da se osjećaj: inteligencija je ovdje. Jasno Google je osjećaj, previše, jer je kupio DeepMind za glasine $ 650. U 2013, Facebook pokrenuo svoj vlastiti projekt, s planovima za razvoj prepoznavanje jezika lica i prirodan za site. Developeri su već počeli raditi na inteligentnim chatbots, koji Facebook korisnici će moći pozvati koristeći svoj Messenger.

Dosada, Računala nisu bili "inteligentni" na sve, ili samo usko tako. Bili su dobri u jednostavnim zadacima koji nas očarati, kao što su matematika, ali loše na one koji uzimamo zdravo za gotovo, koji ispasti da se ozbiljno tvrdi. Čin hodanja nešto moderno roboti naučili kao bebe i još uvijek se bore s; Osnovni Pöttering zadaci ostaju udaljene snove. "Jedan od primjera je lakoća s kojom se vi ili ja mogao napraviti šalicu čaja u tuđe kuhinje,"Kaže Profesor Alan Winfield, roboticist na Sveučilištu West of England. "Ne postoji niti jedan robot na planetu koja bi mogla to učiniti."

Da bismo razumjeli zašto je to ljudski je tako teško, razmišljati o tome kako možete dobiti računalo da prepozna ljude s fotografija. bez AI, morate znati kako to učiniti sami prvi, kako bi se programirati računalo. Morate prikupiti i razmišljati o svim mogućim uzorcima, boja i oblika lica, i kako su promjene u svjetlosti, a pod različitim kutovima - i morate znati što je značajno, a što je samo blato na leći. sa AI, ne moram objašnjavati: ti samo dati brdo stvarnih podataka na računalo i pustiti da uče. Kako dizajn softver za učenje ostaje ezoteričko stvar, pokrajina nekoliko tražen nakon računalnih znanstvenika, ali je jasno da ste je dobio na pobjednika osmišljavanjem strukture obradu podataka na temelju labavo na strukturama u mozgu. (To se zove "duboko učenje".) Što se tiče planina realnom podataka, dobro, To je ono što Google, Facebook, Amazon, Uber a sve ostalo se dogoditi da leže uokolo.

U ovoj fazi, mi još ne znamo koji koristi AI će ispasti najbolje. Josh Newlan, Kalifornija koder radi u Šangaju, dosadilo slušati beskrajne konferencijske pozive, tako on je izgradio neki softver za slušanje za njega. Sada, kad god se spominje Newlan ime, njegovo računalo ga odmah šalje prijepis u zadnjih pola minute, čeka 15 sekundi, onda igra snimka njega govoreći, "Žao mi je, Nisam znala da je moj mikrofon bio na mute. "Prošle godine, Josh Browder, Britanski tinejdžer, izgrađen besplatni umjetne odvjetnik da se žalbe protiv parkiranje; On planira graditi još jedan vodič izbjeglice putem inozemnih pravnih sustava. Mogućnosti su ... Pa, možda algoritam može računati mogućnosti.

Tako će stroj umovi jedan dan prestići naše vlastite? Istraživači ja govorim da su oprezni, i uzeti bolove naglasiti ono što su njihovi strojevi ne mogu učiniti. Ali sam odlučio staviti AI na probu: može se planirati obrok, kao i Ottolenghi? Može li slikati moj portret? Je li tehnologija još uvijek umjetno inteligentni - ili je to počinje biti inteligentan, stvarno?

Test za kuhanje

Dobro, Ja ću reći da nije strašno. Ljudi su služili me gore. Iako je u istini ime koje IBM-ov kuhar Watson daje ovo jelo ("Piletina jetre Savoury Umak") je o kao ukusna kao što zaslužuje.

Kako bi bili pravedni Chef Watson, i Guardian vikenda vlastiti kuhar-kolumnist Yotam Ottolenghi, Kad sam namjestio ih dosta zadatak. Pitao sam za jelo se temelji na četiri sastojcima koji kao da pripada ni blizu jedan drugoga: pileća jetra, Grčki jogurt, wasabi i tekila. Mogli su dodati bilo što drugo im se sviđa, ali oni četiri morao biti u gotovom jelu, koje bih kuhati i jesti. Kuhar Watson nije oklijevao, odmah mi daje dva tjestenine umaci. Ottolenghi bio oprezniji. "Kada sam dobio izazov sam mislio, 'To se ne ide na posao,'' Rekao mi je.

Mislio sam da je ista. Ili barem mislio sam da ću završiti jesti dva jela koja uspio biti u redu, unatoč njihovim sastojcima, nego zbog njih. U stvari - a vi ćete misliti mi puzanje, ali što onda - Ottolenghi recept je bio otkrivenje: jetra i luk i smanjenje tekila, služio s jabukom, rotkvica, cikle i cikorija salata od kupus, s wasabi i jogurta odijevanja. Jelo se može malo smisla na papiru, ali sam progutala je pun tanjur osjećaj da je svaki element pripadala. (A vinaigrette obložen s jogurtom i wasabi umjesto senfa: ozbiljno, pokušati.) Ottolenghi mi kaže recept je samo dlaka kratka publishable.

Stvar je, koje jelo njega i njegov tim tri dana je do savršenstva. Oni su mogli kušati i raspravljati okusa, teksture, boje, temperature, na način da se Watson ne može - iako je bilo "rasprave" o dodavanju povratni mehanizam u budućnosti, Kuhar Watson glavnu inženjer, Florian Pinel, govori mi. "Recept je takva složena stvar,"Ottolenghi kaže. "To je teško za mene, čak je shvatiti kako bi ga računalo približiti."

Yotam Ottolenghi i Chef Watson jela
Yotam Ottolenghi i Chef Watson jela Fotografirati: Jay Brooks za Guardian

Watson je prvi put izgrađena od strane IBM osvojiti televizor kviza Jeopardy! u 2011. Na neki način to je bio zabludu izazov, jer za računala tvrd dio kviza je razumijevanje pitanja, ne znajući odgovore; za ljude, to je obrnuto. No, Watson je osvojio, a njegova tehnologija počela se primjenjivati ​​i drugdje, uključujući i kuhara, stvaraju nove recepte na temelju 10,000 Pravi primjeri uzeti iz magazin Dobar tek.

Prvi program je morao "uzimati" ove recepte, kao što je Watson tim ga staviti. Puno računanja otišao u razumijevanju onoga što se sastojci, kako su pripremili, koliko dugo su se kuhala, kako bi se mogli objasniti kako ih koristiti u novim jelima. (Postupak još uvijek može posustati. Čak i sada Chef Watson preporučuje sastojak pod nazivom "mekušaca", koji je uslužno objašnjava je "šesti pune duljine album smatrati".)

Veći je problem pokušava dati stroja osjećaj okusa. "To je jednostavno dovoljno za računalo stvoriti kombinaciju roman,"Pinel kaže, "Ali kako to može ocijeniti jedan?"Watson je učio da razmotri svaki sastojak kao kombinaciju specifičnih okusa spojeva - od kojih je na tisuće - i onda kombinirati sastojke koji su imali spojeve zajedničko. (Ovaj princip, uparivanje hrane, je dobro uspostavljena među ljudima.) Napokon, softver generira korak-po-korak upute koje imaju smisla za ljudsko kuhar. Naglasak je na iznenađenja, a ne praktičnog planiranja obroka. "Chef Watson stvarno tu da vas potaknuti,"Pinel objašnjava. Svaki recept dolazi s podsjetnik na "koristiti vlastitu kreativnost i sud".

I moram. Prvi korak je da se "tost flat-leaf peršin", koji jednostavno nije dobra ideja. Ja sam stvaranje, učinkovito, sporo kuhana začinjena svinjetina i govedina ragu, uključujući sve moje četiri sastojka, Još Watson čudno također uključuje krastavac i drži mi govori da "sezona s piment", što odbijam raditi na principu. Na kraju, Imam bogato umak s okusom prilično blizu dvorište, ali ne uneatable. Ne mogu osjetiti wasabi ili tekilu, koji mi je drago zbog.

Yotam Ottolenghi s Não robota
Yotam Ottolenghi s Não robota posudbi ljubaznošću osnovne škole Heber, London. Fotografirati: Jay Brooks. Stil: Lee Flude

Watson je pametan, a zadatak je težak, ali ja sam spreman reći da je to ništa više nego malo zabave za hranu štrebere, dok me Ottolenghi zaustavi. "Mislim da je ideja sporo kuhanje jetra s malo mesa je super,"Kaže on. "To pojačava okus. Sve će se zajedno. Ako sam morao početi iznova s ​​ovom receptu, očito jogurt ne odgovara - ali ja bih ostaviti narančastu kožu tamo, neki od začina. Ne mislim da je to jako loše recept. To bi moglo raditi. "

Presuda Watson skriva nastranost sastojaka, ali Ottolenghi čini ih pjevaju.

Test pisanja

Stavi malo Pjesnik pored strašnih strojeva IBM-a i Googlea, i to izgleda kao računalno napredni kao d'epnim. Ipak, dok je Watson zabrlja preko svog naukovanja, Pjesnik je već na djelu. Ako ste pročitali na tržištu dionica izvješća iz Associated Press, ili Yahoo sportski novinarstvo, postoji dobra šansa da ćete misliti da su pisani od strane osobe.

Pjesnik je umjetna pisac. Razvijen od strane tvrtke u Sjevernoj Karolini pod nazivom Automatizirano Insights, to plucks najzanimljivije nuggets iz skupa podataka i koristi ih strukturirati članak (ili e-mail, ili popis proizvoda). Kada je riječ o cijeloj stvarno velika vijest, koristi više emotivnu jezik. Ona se razlikuje dikciju i sintaksu da svoj rad učini više čitati. Čak i nespretna robot kuhar može imati svoje koristi, ali pisanje ljudskih čitatelje mora biti glatka. Zakačen na uređaj za prepoznavanje glasa, kao što su Amazon Echo, Pjesnik i mogu odgovoriti na govornom ljudsko pitanje - o uspješnosti nečije investicije, kažu - s zamišljeno govori odgovor, najavljujući ono što je zanimljivo prvo, i ostavljajući ono što nije zanimljiva na sve. Ako niste znali trik, vi mislite slučaj 9000 stigao.

Trik je ovo: Pjesnik se dio pisanja da ljudi ne shvaćaju da je lako. Locky Stewart od Automatizirani Uvidi daje mi tutorial. Pišeš u wordsmith rečenicu kao što je, "Novi ABC brojke pokazuju da je New York Inquirer-a cirkulacija ruža 3% u travnju. "Onda se poigrati. The 3% je došao iz svog podataka, pa odaberite riječ "ruža" i napisati pravilo, poznat kao "grane", koja će promijeniti riječ "Ruža" u izrazu "pucao", ako je postotak veći od 5%. Tada ćete se grana "Ruža" postati "pao" ako je postotak negativnog. Ako je postotak -5% ili niže, "Ruža" postaje "pala".

Onda ga hraniti sinonime. Dakle, "pala" također može biti "oštro pala za". "The Inquirer-a cirkulacija" može biti "cirkulacija na Inquirer". "Pucao" može biti "skočile" i tako dalje. Zatim dodate još rečenice, možda io internetski promet, ili o čemu dana 'print prodanih primjeraka najbolje, ili oko usporedbe u odnosu na isto razdoblje prošle godine. Tada ćete dobiti pametan. Reci wordsmith staviti rečenice s najviše objavi informacije, definirana možda kao one koje imaju najveći postotak promjene. Možda ste dodali granu reći da je rezultat "najbolji / najgori nastup među kvalitetnih naslova". Pakao, možete čak i naučiti ga neke stare Fleet Street trikove, tako da ako cirkulacija plummets komad počinje "Urednik Charles Kane je okrenut žestoke kritike kao", ali ako cirkulacija je "pucao" ovo postaje "Charles Kane je ušutkao kritičare s vijestima da je". Umetnite "više" ili "opet" ili "nastavi", ako ste dobili istu stvar dva mjeseca za redom.

"Umjetna inteligencija je zapravo ljudska inteligencija koja gradi mrežu logike,"Stewart kaže, "Ista mreža koju će koristiti prilikom pisanja priču. To bi mogla biti razvijena 10 ili 15 godina, u kodu, ali kako bi se rad na ovoj skali je bilo moguće samo u posljednje vrijeme. "Jasno je da je potrebno više vremena za pripremu članak o wordsmith nego napisati jedan konvencionalno, ali nakon što ste učinili, računalo može objaviti svježe cirkulaciju novine priču svaki mjesec, na svaki list, u roku od sekunde od primitka informacije. To može objaviti milijune priča u samo nekoliko minuta - ili objaviti samo su neki od njih, ako se podaci ne dosegne određeni prag od kvaliteta vijesti. Tako postaje automatizirani urednik, previše, s podesivim okusa u temeljitosti, Učestalost i histerija.

Za wordsmith zadaće, Predlažem nogomet: to je polje koje stvara puno podataka i ima čitateljstva koji želi personalizirane članaka. Guardian nogomet pisac Jacob Steinberg volonteri da se na računalu, and I provide a table of facts from the recent Premier League: last season’s league position and this season’s position at Christmas and at the end, goals scored and conceded, top scorer’s name and total, value of summer transfers and a quote from the manager.

Working solely from this data, computer and human must each write a review of the season for a given club. Steinberg chooses Leicester City on the basis that its numbers should contain a story that anyone would see. Wordsmith doesn’t need to choose. It will do all 20.

And in fact both computer and human quickly produce quite similar work:

Leicester City footballer Jamie Vardy

Both Steinberg and Wordsmith deliver dramatic first sentences. Perhaps keen to sound authentic, Automated Insights use some clever tricks to put feeling into the latter’s article, astutely guessing that Leicester were “hoping to finish in the top 10 after a 14th place finish last season”. I look through Wordsmith’s other articles and Southampton, having finished seventh last season, have “eyes on a European spot”, while Manchester City “began the season dreaming of a league title after finishing second”.

Obrnuto, Steinberg digs more meaningfully into the numbers, showing that Jamie Vardy not only scored 24 goals, but that this was a higher percentage of his team’s goals than was managed by all but two other players. Knowing how Wordsmith works, naravno, one could easily set it up to do the same. In fact looking through it, Steinberg’s entire article could have been created by a skilled Wordsmith programmer – with the exception of one line. “It’s a magical season,” he quotes the Leicester manager as saying, before adding, “justifiably so, given that a summer expenditure of £26.7m on transfers made them the eighth lowest spenders”. That “justifiably so” shows a writer who actually understands what he is writing.

Presuda Steinberg is a much better writer, unless you want 20 data-heavy articles in 10 minuta.

The painting test

A laptop wants me to smile. “It’s in a good mood," Simon Colton kaže. He knows because he’s the scientist who programmed it. We are in the Science Museum in London, where the Painting Fool, as it is called, is giving a public demonstration. It’s important that I don’t show my teeth, Colton says, because something about the light makes them look green to the Painting Fool.

From my toothless smile the laptop creates a “conception” of what it would like to paint, based on its mood. The mood comes from a “sentiment analysis” of recent Guardian articles, as it happens (on average reading the Guardian is a downer, očigledno, apart from the stuff about gardening). Yesterday the Fool was in such a bad mood that it sent someone away unpainted; today it is feeling “positive”.

Next the Fool attempts to paint with a simulated brush and a simulated hand (actually, an image of Colton’s hand) on the screen behind me. It learned to reflect its mood from the work of Dan Ventura, another computer scientist, at Brigham Young University in Utah, who trained a neural network to recognise the emotional attributes of images by sitting thousands of people in front of tens of thousands of paintings and asking them to tag each one with whatever adjectives came to mind. The Fool now knows that bright colours reflect a good mood, and “pencils with tight hatching” create a picture that is “cold”. When it is done, it prints out a page with a typed self-critique. “Overall, this is quite a bright portrait,” it says. “That’s OK, but my style has lowered the level of bright here. So I’m a bit annoyed about that.”

Here along with us, intrigued but too busy at her easel to watch, je Sarah Jane Moon, an artist who exhibits with the Royal Society of Portrait Painters. She doesn’t want to see my teeth, ili. “We paint from life,", Kaže ona, “and you can’t hold a smile for sitting upon sitting. That’s why all the traditional portraits show quite relaxed features.”

The Painting Fool is a special machine, and even slightly famous, but I can’t deny that Moon is almost all of why I’m excited to be here. The feeling of being painted by a real person, having them look at you and think about you, is exciting and flattering. Sentiment analysis and training data, on the other hand, don’t add up to anything whose view of me I care about, and the finished portraits do not change my mind. Moon’s is a lovely, real thing, which feels straight away like one person seen by another. The Fool’s three efforts have qualities I like, but mostly they look like photographs that have gone through some kind of software filter. Colton insists the Fool is here “to learn to be better” but I look and think: so what?

Painting of Leo Benedictus by Sarah Jane Moon
Leo Benedictus as seen by Sarah Jane Moon…
Painting of Leo Benedictus by the Painting Fool computer
…and as imagined by the Painting Fool laptop. Fotografirati: Murray Ballard

Then I think some more. For one thing, it turns out that art is more mechanical than I’d realised. “I try to look at Leo as an abstract set of shapes, obrasci, boje, tones,” Moon tells Colton, “to get away from the fact that that’s a nose. Because when you start to do that, you get caught up in what you razmišljati looks like a nose.”

“What the software does is break it down into colour regions,” Colton says.

"Da, točno,” Moon agrees. “I think that’s what the best painters do. It’s transcribing.” Afterwards she tells me she felt a kind of “kinship” with the software as they worked side by side.

Što je još važnije, I realise that what matters isn’t how the machine paints; it’s how I see. Moon I understand, Mislim. She’s a person and I know how that feels, so I care about her picture. But what does it feel like to be the Painting Fool? Is that what its portraits are trying to tell me?

Presuda Moon’s painting is far richer; the Fool is still learning and has centuries of practice to go.

The translation test

Google Translate was the first piece of proper science fiction to come true, a it’s already a decade old. In many ways it typifies where AI has got to. Useful, Naravno; impressive, without question; but still clunky as hell, despite big improvements.

If you haven’t used it, it works like this: enter text or web links in any of 103 supported languages and you get a rough translation seconds later in any of the others. The app on your phone will transcribe what you say and then speak it back, preveo (32 languages supported); it can replace the text of a foreign language sign or menu wherever you point the camera. No explanation is needed of how cool that is (and it’s free).

Globally, half a billion people use Google Translate each month, mostly those who don’t speak English (which is 80% of people) but who want to understand the internet (which is 50% Engleski). “Most of our growth, and actually most of our traffic, comes from developing or emerging markets such as Brazil, Indonezija, Indija, Tajland,” says Barak Turovsky, head of product management and user experience at Google Translate. It’s surprisingly popular for dating, previše, On dodaje. “Things like ‘I love you’ and ‘You have beautiful eyes’, that’s very prevalent.”

The software has always used a form of statistical machine learning: scouring the internet for already translated text – UN declarations, EU documents – and mapping the likelihood of certain words and phrases corresponding to one another. The more data it gathers, the better it gets, but the improvement levelled off a couple of years ago. Uskoro, Turovsky says, they will deploy new deep learning algorithms, which will produce much more fluent translations.

Čak i tako, there are limits, and some seem fundamental when you talk to a human translator and realise how subtle their work is. Ros Schwartz a Anne de Freyman volunteer for this task. Both are professional French/English translators, and I need two because, in order to judge how good the translation is without being fluent in both languages, we need to translate twice – once out of English into French, once back again. Google Translate keeps no memory of the original and can do the same thing.

I choose a short passage of distinctive but not especially wild or ambiguous prose from the beginning of Herzog by Saul Bellow. Translators normally require context, so I tell Schwartz and De Freyman that it comes from a famous mid-century American novel.

Within a few days, Schwartz and De Freyman return a very smooth facsimile of the original text. Here and there some nuances have not survived, but the passage remains a pleasure to read, and the main meanings come across exactly.

Google Translate takes only a few seconds, and the result is both impressive and inadequate, weirdly good in places, in others weirdly bad – turning “he” into “it” and concocting the idea that Herzog is in love. Miraculously, it keeps “cracked” as a description of the hero. French has no word that combines the sense of “broken” and “mad” that cracked coveys in English, so De Freyman makes it “cinglé”, which comes back from Schwartz as “crazy”.

“Google Translate would look at statistical probability and say, what does ‘cracked’ mean?” Turovsky explains. “And statistically, it will try to decide whether it means ‘cracked’ or ‘crazy’ or whatever. That, for a machine, is a non-trivial task.” Nor is it simple for a human, even though we find it easy. You’d have to ask whether Bellow could have meant that Herzog was “cracked” as in physically fractured. Then you’d have to assume not, because human bodies don’t generally do that. So you’d wonder what he did mean and assume instead, if you were not already familiar with the usage, that he must mean “crazy”, because you understand the rest of what you’ve read. But to do all this, wouldn’t Google Translate have to be pretty much conscious, I ask? Turovsky laughs. “I don’t think I’m qualified to answer that question.”

Presuda Some bullseyes and howlers from Google Translate, while Schwartz and De Freyman are fluent and exact.

guardian.co.uk © Guardian Vijesti & Media Limited 2010

Vezani članci