Punk in Finland

mikrobitti.fi
Tekoälyä käytetään nyt vaalikampanjoissa – asiantuntijat varoittavat synkästä uhkakuvasta
Joakim Kullas
~3 minutes

Yhdysvaltain presidenttikisaan lähteneen kuvernööri Ron DeSantisin kampanjatiimi julkaisi Twitterissä videon, jossa entinen presidentti Donald Trump näytti syleilevän ja suutelevan allergia- ja infektiotautien instituutin entistä johtajaa Anthony Faucia. Kuvat olivat kuitenkin tekoälyn luomia, kirjoittaa Insider.

Kyseessä on vain yksi esimerkki siitä, miten tekoälyä on alettu käyttää vaalikampanjoinnissa Yhdysvalloissa ja muualla maailmassa. Muun muassa demokraattien kansallinen komitea on todennut, että tekoälyn luoma teksti on tehokkaampaa kuin ihmisen kirjoittama, kun sitä käytetään ihmisten sitouttamisessa tai lahjoitusten keräämisessä.

Myös Toronton pormestarin paikkaa havitteleva Anthony Furey hyödynsi tekoälyn luomia kuvia kampanjassaan.

Vaikka tekoäly pystyy tuottamaan tekstiä ja kuvia minimaalisilla kustannuksilla, asiantuntijat ovat huolissaan sen käytöstä vaalikampanjoissa. Darrell M. West ajatushautomo Brookings Institutionista kirjoitti, että tekoälyn käyttö kampanjoinnissa johtaa ”villiin länteen”, jossa poliitikkojen väitteet ja vastaväitteet lisääntyvät räjähdysmäisesti. Samalla aidon ja epäaidon materiaalin tunnistaminen vaikeutuu entisestään.

Westin mukaan tekoäly voi auttaa kampanjoijia kohdentamaan viestinsä tarkasti, jolloin liikkuvien äänestäjien houkuttelu saattaa helpottua. Surullisenkuuluisa esimerkki teknologian avulla tehtävästä kohdentamisesta on konsulttiyhtiö Cambridge Analytica, joka analysoi Facebook-datan avulla äänestäjien psykologisia piirteitä Yhdysvaltain vuoden 2016 presidentinvaaleissa.

LUE MYÖS:

Ongelmaksi Cambridge Analytican kaltaisissa tapauksissa muodostuu läpinäkyvyyden puute, sillä eri äänestäjille esitellään erilaisia viestejä sen mukaan, minkä uskotaan uppoavan heihin parhaiten.

Tekoälyn tuottaman sisällön tunnistamiseen erikoistuneen Reality Defenderin toimitusjohtaja Ben Colman huomauttaa The New York Timesille, että sosiaalisessa mediassa esiintyy yhä enemmän laadukasta tekoälysisältöä, jota ei juurikaan säännellä. Tämä auttaa valheellista sisältöä leviämään laajalle, mikä voi Colmanin mukaan aiheuttaa peruuttamatonta vahinkoa. Verkostomaisesti toimivassa sosiaalisessa mediassa tiedon toteaminen valheelliseksi on hyödytöntä silloin, kun sitä on ehditty jo jakaa eteenpäin.

Kun totuuden ja valheiden raja hämärtyy, poliitikot voivat alkaa vältellä vastuuta väittämällä heistä levitettyä raskauttavaa kuvamateriaalia tekoälyllä luoduksi. Samaan aikaan sosiaalisen median informaatiokuplat uhkaavat syventyä, kun tavalliset ihmiset luovat omia valesisältöjään ja levittävät niitä omille seuraajilleen.

https://www.mikrobitti.fi/uutiset/mb/c8 ... 0aba49b631

Sulo Kokki wrote: ↑

28 Jun 2023, 19:41

Ihan vitun hienolta näyttää tulevaisuus

mikrobitti.fi
Miljardeja alas viemäristä: netti voi muuttua pian turhuuden labyrintiksi, jossa huijarit lypsävät rahat
Joakim Kullas
~2 minutes

Tekoälyä käyttäviä chatbotteja hyödynnetään roskasivustojen täyttämiseen tekstillä, minkä jälkeen niillä aletaan näyttää mainoksia.

Mediatutkimukseen erikoistuneen NewsGuardin raportin mukaan yli 140 brändiä maksaa mainoksista, jotka päätyvät näkyville tekoälyllä kirjoitetuille roskasivustoille.

MIT Technology Reviewin mukaan 90 prosenttia roskasivustoilla nähdyistä mainoksista tulee Googlen kautta, vaikka yhtiön säännöt kieltävät mainosten näyttämisen automaattisesti luodun spämmisisällön yhteydessä.

Mainosten näyttäminen roskasivuilla uhkaa luoda huonosti toimivan ja turhaa sisältöä täynnä olevan internetin, jossa julkaistu materiaali on luotu tekoälyllä.

Verkkosivujen selaajien turhautumisen lisäksi mainostajien rahat valuvat hukkaan.

Mainostajat ovat tuskin tietoisia tilanteesta, sillä mainospaikat valitaan automaattisesti monimutkaisen algoritmin perusteella.

Tarkoituksena on maksimoida mainoksen näkyvyys ja löytää sille paras kohderyhmä. Lopputuloksena suuret yhtiöt saattavat maksaa mainostensa joutumisesta täysin tuntemattomille sivuille, joita kukaan ei valvo.

Sivustot on usein luotu pelkästään mainosten houkuttelemista varten. Ne keräävät kävijöitä sekä näyttökertoja automaattisesti toistetuilla videoilla, klikkiotsikoilla sekä ponnahdusikkunoilla.

Markkinointiyhteisöä Yhdysvalloissa edustava Association of National Advertisers arvioi, että mainostajien rahaa tuhlataan roskasivuille noin 13 miljardia dollaria vuosittain ympäri maailmaa.

https://www.mikrobitti.fi/uutiset/mb/1c ... 8b6586be87

pigra senlaborulo wrote: ↑

29 Jun 2023, 10:24

netti voi muuttua pian entistä pahemmaksi turhuuden labyrintiksi, jossa huijarit lypsävät rahat

OpenAI-yhtiön kehittämän tekstitekoäly ChatGPT:n heikkoutena on ollut se, että sen tietämys maailman menosta katkeaa vuoteen 2021, sillä sen taustalla vaikuttavalla laajalla kielimallilla ei ole käytössään sitä uudempaa materiaalia. Nyt asiaan tulee muutos, sillä ChatGPT voi nyt hakea vastauksia myös internetistä.

TechCrunchin mukaan hakutoiminto on tulossa ChatGPT:n maksulliseen versioon. Toiminnon saa ChatGPT:n mobiilisovelluksissa päälle avaamalla New Features -osion, valitsemalla GPT-4-kielimallin ja painamalla ”selaa Bingin avulla” -vaihtoehdon.

Bing ei kuitenkaan ole välttämättä erityisen hyvä selain tehtävään. Sen hakutulosten on jo vuonna 2011 mainittu suosivan Microsoftia ja esittävän yhtiön mahdollisimman hyvässä valossa.

Bingin hakutulosten kärkeen päätyy usein myös muulla tavoin epäilyttäviä tuloksia. Eräs sen ominaispiirteistä on Stanfordin yliopiston tutkimuksen mukaan se, että palvelu tarjoaa hakutuloksina opiskelijoiden esseitä. Se antaa joistakin aiheista tuloksina myös sivustoja, joilla julkaistaan näennäistiedettä ja valeuutisia.

Microsoft luultavasti pyrkii ajan mittaan parantamaan Bingin hakutulosten tasoa. ChatGPT:n käyttäjän on silti syytä pitää hoksottimet toiminnassa kysellessään siltä asioista, joista voi olla internetissä liikkeellä valheellista sisältöä.

https://www.mikrobitti.fi/uutiset/mb/e5 ... 4c46ece4e1

netti voi muuttua pian turhuuden labyrintiksi, jossa huijarit lypsävät rahat

Valve seems to be blocking video games created with AI-generated assets from being published on its online storefront Steam. A Reddit post from earlier this month, first noticed by GameDiscoverCo founder Simon Carless, includes a message from Valve explaining that it “cannot ship games for which the developer does not have all of the necessary rights.” On June 29, another Redditor wrote that Steam denied their game for “utilizing AI tech.”

The first developer that posted the message said they initially tried to release their game “with a few assets that were fairly obviously AI-generated.”

“My plan was to just submit a rougher version of the game [...] and to improve them prior to actually releasing the game as I wasn’t aware Steam had any issues with AI-generated art,” they wrote.

Though Steam’s rules for developer submissions don’t explicitly ban AI-made content the way they deny games made on the blockchain (“Applications built on blockchain technology that issue or allow exchange of cryptocurrencies or NFTs” are clearly part of “What you shouldn’t publish on Steam,” that list says), the company does note that “Content you don’t own or have adequate rights to” is not allowed.


As traditional artists have been pointing out since AI art was made widely accessible to the public with generators like Dall-E 2 and Midjourney in 2022, it’s difficult to ascertain copyright for art made by math problems. The machine learning algorithms that supply an AI art generator need to chew up a large dataset of existing images to be able to do their jobs, and while some have argued that being the person who created a machine is enough grounds to be the owner of all its artwork, both the U.S. Copyright Office and visual artists have so far disagreed. Regardless, that would put ownership in the hands of the AI company rather than the developer using the artwork in a game.

Valve reportedly told the developer that their game “contains art assets generated by artificial intelligence that appears to be relying on copyrighted material owned by third parties. As the legal ownership of such AI-generated art is unclear, we cannot ship your game while it contains these AI-generated assets, unless you can affirmatively confirm that you own the rights to all of the IP used in the data set that trained the AI to create the assets in your game.”

“If you fail to remove all such content,” it continued, “we will not be able to ship your game on Steam, and this app will be banned.”

Valve ultimately decided that it was too “unclear if the underlying AI tech used to create the assets has sufficient rights to the training data,” and has reportedly been also denying games that use AI-made text with essentially the same boilerplate rejection it used on the Reddit developer.

However, some are suggesting these AI game bans are actually a hoax. If the messages are real, though, this is a relatively new pivot. There are currently multiple games on Steam that plainly state their use of AI-created art and text in their descriptions; In practice, it doesn’t seem like there’s much of an AI “ban” on Steam. Kotaku reached out to Valve for comment.

https://kotaku.com/valve-ai-art-generat ... 1850590856

MIT Technology Reviewin mukaan merkittävä määrä ihmisiä, jotka on palkattu koulutusdatan keräämiseen, teettävätkin työn tekoälyllä. Näin kertoo taannoin julkaistu tutkimus.

Sveitsin liittovaltion teknologiainstituutin (EPFL) tutkijoiden ryhmä palkkasi 44 henkilöä Mechanical Turk -keikkatyöalustalta, ja palkattujen tuli tehdä yhteenvedot lääketieteellisistä tutkimuspapereista, jotka syötettäisiin myöhemmin tekoälylle koulutustarkoituksessa.

Tutkijat analysoivat työntekijöiden palauttamasta materiaalista merkkejä tekoälytyökalujen hyödyntämisestä. Tällaisia vihjeitä ovat esimerkiksi toistuvat sanat. Tutkijat tarkkailivat myös työntekijöiden näppäinpainalluksia selvittääkseen, oliko vastaus kopioitu ja liitetty.

Tutkijoiden arvioiden perusteella 33–46 prosenttia työntekijöistä käytti tekoälytyökaluja – kuten OpenAI:n ChatGPT:tä.

Tekoälyn kouluttamiseen tarvitaan valtava määrä dataa, ja useat yritykset maksavat datan haalimisesta keikkatyöläisille, jotka on palkattu palveluista kuten mainittu Mechanical Turk.

Ihmistyöntekijöille annetaan tehtäviä, joita on hankala automatisoida. Tällaisia ovat ainakin CAPTCHA-todennusten ratkaiseminen, datan nimeäminen ja tekstin merkitseminen. Sen jälkeen kerätty data syötetään tekoälymallille sen kouluttamiseksi.

Työstä ei makseta paljon, ja MIT Technology Review arvelee tämän olevan syynä tekoälytyökalujen kuten ChatGPT:n käyttöön.

Tekoälyn hyödyntäminen tekoälyn kouluttamisessa on ongelmallista, sillä se voi aiheuttaa virheitä jo valmiiksi virhealttiisiin malleihin.

Tulevaisuudessa voi myös seurata itseään vahvistava virheiden kierre, kun netistä löytyvää tekoälyn luomaa sisältöä käytetään tekoälyn kouluttamiseen. Tutkimuksessa korostettiin tarvetta uusille keinoille tarkistaa, onko data ihmisen vai tekoälyn tuottamaa.

https://muropaketti.com/tietotekniikka/ ... ttamiseen/

Google Says It'll Scrape Everything You Post Online for AI

An update to Google's privacy policy suggests that the entire public internet is fair game for it's AI projects.

Google updated its privacy policy over the weekend, explicitly saying the company reserves the right to scrape just about everything you post online to build its AI tools. If Google can read your words, assume they belong to the company now, and expect that they’re nesting somewhere in the bowels of a chatbot.

“Google uses information to improve our services and to develop new products, features and technologies that benefit our users and the public,” the new Google policy says. “For example, we use publicly available information to help train Google’s AI models and build products and features like Google Translate, Bard, and Cloud AI capabilities.”

Fortunately for history fans, Google maintains a history of changes to its terms of service. The new language amends an existing policy, spelling out new ways your online musings might be used for the tech giant’s AI tools work.

Previously, Google said the data would be used “for language models,” rather than “AI models,” and where the older policy just mentioned Google Translate, Bard and Cloud AI now make an appearance.

This is an unusual clause for a privacy policy. Typically, these policies describe ways that a business uses the information that you post on the company’s own services. Here, it seems Google reserves the right to harvest and harness data posted on any part of the public web, as if the whole internet is the company’s own AI playground. Google did not immediately respond to a request for comment.

The practice raises new and interesting privacy questions. People generally understand that public posts are public. But today, you need a new mental model of what it means to write something online. It’s no longer a question of who can see the information, but how it could be used. There’s a good chance that Bard and ChatGPT ingested your long forgotten blog posts or 15-year-old restaurant reviews. As you read this, the chatbots could be regurgitating some humonculoid version of your words in ways that are impossible to predict and difficult to understand.

One of the less obvious complications of the post ChatGPT world is the question of where data-hungry chatbots sourced their information. Companies including Google and OpenAI scraped vast portions of the internet to fuel their robot habits. It’s not at all clear that this is legal, and the next few years will see the courts wrestle with copyright questions that would have seemed like science fiction a few years ago. In the meantime, the phenomenon already affects consumers in some unexpected ways.

The overlords at Twitter and Reddit feel particularly aggrieved about the AI issue, and made controversial changes to lockdown their platforms. Both companies turned off free access to their API’s which allowed anyone who pleased to download large quantities of posts. Ostensibly, that’s meant to protect the social media sites from other companies harvesting their intellectual property, but it’s had other consequences.

Twitter and Reddit’s API changes broke third-party tools that many people used to access those sites. For a minute, it even seemed Twitter was going to force public entities such as weather, transit, and emergency services to pay if they wanted to Tweet, a move that the company walked back after a hailstorm of criticism.

Lately, web scraping is Elon Musk’s favorite boogieman. Musk blamed a number of recent Twitter disasters on the company’s need to stop others from pulling data off his site, even when the issues seem unrelated. Over the weekend, Twitter limited the number of tweets users were allowed to look at per day, rendering the service almost unusable. Musk said it was a necessary response to “data scraping” and “system manipulation.” However, most IT experts agreed the rate limiting was more likely a crisis response to technical problems born of mismanagement, incompetence, or both. Twitter did not answer Gizmodo’s questions on the subject.

On Reddit, the effect of API changes was particularly noisy. Reddit is essentially run by unpaid moderators who keep the forums healthy. Mods of large subreddits tend to rely on third-party tools for their work, tools that are built on now inaccessible APIs. That sparked a mass protest, where moderators essentially shut Reddit down. Though the controversy is still playing out, it’s likely to have permanent consequences as spurned moderators hang up their hats.

nbcnews.com
In NYC, companies will have to prove their AI hiring software isn't sexist or racist
By Kevin Collier
5–6 minutes

New York City businesses that use artificial intelligence to help find hires now have to show the process was free from sexism and racism.

A new law, which takes effect Wednesday, is believed to be the first of its kind in the world. Under New York’s new rule, hiring software that relies on machine learning or artificial intelligence to help employers choose preferred candidates or weed out bad ones — called an automatic employment decision tool, or AEDT — must pass an audit by a third-party company to show it’s free of racist or sexist bias.

Companies that run AI hiring software must also publish those results. Businesses that use third-party AEDT software can no longer legally use such programs if they haven’t been audited.

Companies are increasingly using automated tools in their hiring processes. Cathy O’Neil, the CEO of Orcaa, a consulting firm that has been running audits of hiring tools for companies that want to be in good standing with New York’s new law, said the rise in tools that automatically judge job candidates has become necessary because job seekers are also using tools that send out huge numbers of applications.

“In the age of the internet, it’s a lot easier to apply for a job. And there are tools for candidates to streamline that process. Like ‘give us your resume and we will apply to 400 jobs,’” O’Neil said. “They get just too many applications. They have to cull the list somehow, so these algorithms do that for them.”

AI-infused hiring programs have drawn scrutiny, most notably over whether they end up exhibiting biases based on the data they’re trained on. Studies have long found that programs that use machine learning or artificial intelligence often exhibit racism, sexism and other biases.

As flashy generative AI applications like ChatGPT and Midjourney have surged in popularity, federal lawmakers and even many tech company executives have repeatedly called for regulation. But so far, there’s little sense from Congress what that might look like.

Experts say that while the New York law is important for workers, it’s still very limited.

Julia Stoyanovich, a computer science professor at New York University and a founding member of the city’s Automatic Decisions Systems Task Force, said it’s an important start but still very limited.

“First of all, I’m really glad the law is on the books, that there are rules now and we’re going to start enforcing them,” Stoyanovich said.

“But there are also lots of gaps. So, for example, the bias audit is very limited in terms of categories. We don’t look at age-based discrimination, for example, which in hiring is a huge deal, or disabilities,” she added.

It’s also not clear how the law will be enforced or to what extent.

New York’s Department of Consumer and Worker Protection, charged with enforcing the law, “will collect and investigate complaints” of companies accused of violating it, an agency spokesperson said.

Jake Metcalf, a researcher specializing in AI for Data & Society, a nonprofit group that studies the effects of technology on society, said the wording of the law — it defines AEDT as technology that will “substantially assist or replace discretionary decision making” — has led lawyers that advise large companies not to take it seriously.

“There are quite a few employment law firms in New York that are advising their clients that they don’t have to comply, given the letter of the law, even though the spirit of the law would seem to apply to them,” Metcalf said.

“It’s very hard to figure out what ‘substantially’ means,” he said.

Even if the audits help reduce some bias against job candidates, it’s still not clear that AI job screening is particularly good at what it seeks to do.

“I don’t think they’re improving the overall system for the people who are in the system, either for candidates or for hiring managers,” said O’Neil of Orcaa. “It’s just an information overload and not much reason to trust these tools to make things better.”

Stoyanovich went further, saying some automated hiring tools she has studied simply don’t work.

“One of the things that this law does not protect us against are these just nonsensical, bull--- screening methods. I can tell you about some of those that I’ve audited, together with a team of collaborators, where it’s just nonsensical entirely. So it’s not going to be biased, because it’s just random, as far as I can tell. So it’s going to be equally as nonsensical for men and women and Blacks and whites,” Stoyanovich said.

https://www.nbcnews.com/tech/tech-news/ ... -rcna92336

Valeuutiset ja virheellinen tieto saattavat saada uutta pontta tekoälystä. Uuden tutkimuksen mukaan ihmiset nimittäin uskovat virheellistä tietoa sisältävään Twitter-päivitykseen todennäköisemmin, jos sen on kirjoittanut tekoäly.

Tekoälyn uskottavuutta valepukkina testattiin Business Insiderin mukaan Science Advances -lehden artikkelia varten. Käytetty tekoäly oli OpenAI:n laaja kielimalli GPT-3.

Tekoälyn Twitter-kirjoituksia näytettiin yhteensä 697 koehenkilölle yhdessä oikeiden ihmisten Twitter-päivitysten seassa. Päivitysten aiheina olivat esimerkiksi koronaviruspandemia ja 5g-teknologia, koska niistä on liikkeellä oikeastikin paljon valheellista tietoa.

Koehenkilöitä pyydettiin arvioimaan, mitkä päivitykset olivat ihmisen ja mitkä tekoälyn kirjoittamia. Samoin heitä pyydettiin sanomaan, mitä päivityksiä he pitivät tosina ja mitä taas valheellisina.

Tutkimuksen perusteella tekoälyn kirjoittamia päivityksiä ei ollut mahdollista erottaa ihmisten päivityksistä. Niiden kirjoittamia paikkansa pitämättömiä päivityksiä myös pidettiin yleisesti uskottavampina kuin ihmisten valheita. Toisaalta myös tekoälyn kirjoittamiin tosijuttuihin luotettiin enemmän kuin ihmisten vastaaviin.

Eräässä asiassa ihmiset kuitenkin vetivät pidemmän korren. Tekoäly oli nimittäin itse ihmistä huonompi virheellisen tiedon erottamisessa.

Science Advances -artikkelin tekoon osallistuneet tutkijat kutsuvat tulosten perusteella GPT-3-kielimallia ”kaksiteräiseksi miekaksi”. Se voi toisaalta selkeyttää viestintää, mutta sitä voidaan myös väärinkäyttää aiempaa tehokkaampaan disinformaation levittämisessä.

”Tämän kaltaista teknologiaa voitaisiin helposti käyttää luomaan valtava myrsky disinformaatiota mistä tahansa aiheesta, josta käyttäjä sellaisen haluaakin luoda”, asiaa kommentoi tutkimusta johtanut Giovanni Spitale The Vergen mukaan.

https://www.mikrobitti.fi/uutiset/mb/25 ... 7d4a33c2d2