संग्रह

OpenAI के GPT2 अब वैज्ञानिक पेपर सार लिखते हैं

OpenAI के GPT2 अब वैज्ञानिक पेपर सार लिखते हैं


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

OpenAI ने इस साल की शुरुआत में GPT2 बनाया - जो कि OpenAI के ब्लॉग पेज के अनुसार, "बड़े पैमाने पर अप्रकाशित भाषा मॉडल है जो पाठ के सुसंगत पैराग्राफ उत्पन्न करता है"। यह अविश्वसनीय ट्रांसफार्मर न्यूरल नेटवर्क एक समय में पूरे पैराग्राफ को एक शब्द बनाता है।

घटनाओं के मज़ेदार और पेचीदा मोड़ में, लंदन के इंपीरियल कॉलेज में एक कार्डियोलॉजी प्रशिक्षु डॉ। जेम्स हावर्ड ने GPT2 की वैज्ञानिक क्षमताओं का परीक्षण करने का निर्णय लिया।

डॉ। हावर्ड ने जीपीटी 2 को यादृच्छिक वैज्ञानिक शीर्षकों के साथ संकेत देने का फैसला किया और यह देखा कि उसने अपनी आँखों के ठीक सामने सार लिखा है। डॉ। हावर्ड ने तब ट्विटर के माध्यम से अपनी प्रतिक्रियाएं साझा कीं।

संबंधित: OPEPAI सिर्फ एक स्क्रीन स्कैन के बाद समाचार प्रकाशित किया गया था- ALGITHM

यहाँ GPT2 क्या बनाने में सक्षम था

डॉ हावर्ड ने GPT2 को Pubmed / MEDLINE डेटाबेस पर फिर से प्रशिक्षित किया - एक वैज्ञानिक डेटाबेस 30 लाख बायोमेडिकल साहित्य उद्धरण। इसका मतलब यह है कि जब डॉ। हॉवर्ड ने अपने वैज्ञानिक शीर्षक प्रदान किए, तो ट्रांसफार्मर तंत्रिका नेटवर्क वैज्ञानिक शब्दों में प्रतिक्रिया देने में सक्षम था।

इसने डॉ। हावर्ड को घेर लिया चौबीस घंटे इस तरह से GPT2 को फिर से प्रशिक्षित करने के लिए।

डॉ। हावर्ड, अविश्वसनीय रूप से, प्रतिक्रिया में प्राप्त संक्षिप्त चिकित्सा सार थे जो अच्छी तरह से संरचित और विचारशील थे। नीचे आपके अवलोकन के लिए कुछ सार दिए गए हैं।

डॉ। हावर्ड की चेतावनी का एक शब्द:

मैंने एक राक्षस बनाया है। मैंने @ OpenAI के GPT2 ट्रांसफ़ॉर्मर न्यूरल नेटवर्क को Pubmed / MEDLINE डेटाबेस पर फिर से प्रशिक्षित किया है, ताकि अगर मैं इसे एक लेख का शीर्षक दूं, तो यह मेरे लिए एक सार है। मैंने यह नहीं सिखाया कि अमूर्त संरचना कैसे बनाई जाए, यह कितनी लंबी है, या किसी भी लिंगो की है।

- जेम्स हॉवर्ड (@DrJHoward) 26 अक्टूबर, 2019

नीचे दिए गए प्रत्येक स्क्रीनशॉट में, शीर्ष पंक्ति उस शीर्षक को दिखाती है जिसे मैंने नेटवर्क प्रदान किया है, और नीचे दी गई हर चीज नेटवर्क का काम है। एक एब्स्ट्रैक्ट जेनरेट करने में लगभग 30 सेकंड लगते हैं, हालांकि इसे इस स्तर तक लाने के लिए नेटवर्क को 24 घंटे की ट्रेनिंग मिली।

- जेम्स हॉवर्ड (@DrJHoward) 26 अक्टूबर, 2019

पहला सार:

सबसे पहले, मैंने इसे एक बेतरतीब नियंत्रित नियंत्रण परीक्षण के लिए एक शीर्षक देने की कोशिश की। यह उच्च रक्तचाप के लिए अपिक्सन के खिलाफ गुर्दे के निषेध की तुलना करने के लिए एक _bit_ अनुचित लगता है। Fasciantingly, यह अमूर्त के अंत में एक नैदानिक ​​परीक्षण पंजीकरण डेटा को स्वेच्छा से करता है। pic.twitter.com/Z9794BpgdJ

- जेम्स हॉवर्ड (@DrJHoward) 26 अक्टूबर, 2019

दूसरा एक:

आगे मैंने इसे मेटा-विश्लेषण के लिए एक शीर्षक दिया। जाहिर है, मैंने जो टाइटल चुना, वह लचर है, लेकिन मैं यह देखना चाहता था कि उसने क्या किया। आश्चर्यजनक रूप से, इसने विधि अनुभाग में एक खोज रणनीति लगाने का फैसला किया। यह सापेक्ष जोखिम भी प्रदान करता है, हालांकि संशोधित रैंकिन स्केल की पसंद ... pic.twitter.com/Vjp6fhlFW2

- जेम्स हॉवर्ड (@DrJHoward) 26 अक्टूबर, 2019

तीसरा:

मैंने सोचा था कि मैं कुछ ऐसा करने की कोशिश करूँगा जिसका मुझे विशेष रूप से बहुत कम अनुभव है: लागत-प्रभावशीलता विश्लेषण। हालांकि निष्कर्ष सही हो सकता है, मुझे यकीन नहीं है कि यह अध्ययन के निष्कर्षों को पर्याप्त रूप से बताता है ... मैं आनंद लेता हूं कि महत्व पी मूल्यों (> बनाम <0.05) से कैसे मेल खाता है। pic.twitter.com/5rXlTUh8Hr

- जेम्स हॉवर्ड (@DrJHoward) 26 अक्टूबर, 2019

GPT2 सिर्फ देता रहता है:

अंत में, मैंने सोचा कि मैं कुछ आग लगाने की कोशिश करूँगा। यह पता चलता है कि वयस्क हृदय रोग विशेषज्ञों के बीच मादक पदार्थों के सेवन का प्रचलन 71% है! और यह सच होना चाहिए, उन्होंने eigenvectors का इस्तेमाल किया! बदनामी के लिए क्षमा करें, मेरे दक्षिण अमेरिकी सहयोगियों। pic.twitter.com/j700yVryve

- जेम्स हॉवर्ड (@DrJHoward) 26 अक्टूबर, 2019

यह काफी अविश्वसनीय है - अगर शायद थोड़ी चिंता है - ओपनएआई का ट्रांसफार्मर क्या करने में सक्षम था, और इतने कम समय में इसे फिर से कैसे प्रशिक्षित किया जा सकता है।

मुझे उम्मीद है कि आपको यह दिलचस्प लगा होगा। यदि लोग मुझे शीर्षक देना चाहते हैं तो मुझे और उदाहरण प्रदान करने में खुशी होगी। मैं तंत्रिका नेटवर्क को ऑनलाइन काम करने की कोशिश कर सकता हूं जैसे मैंने पेसमेकर के लिए किया था (https://t.co/CMnspA0N8R) - हालांकि इसके लिए हार्डवेयर आवश्यकताएं बहुत अधिक हैं!

- जेम्स हॉवर्ड (@DrJHoward) 26 अक्टूबर, 2019

डॉ। होवार्ड बहुत ही खुले और पारदर्शी थे कि यह पेचीदा आदान-प्रदान कैसे हुआ, और आप यहाँ अपने लिए कोशिश कर सकते हैं जहाँ आप अपने आप से ट्रांसफार्मर के लिए 'बात' करते हैं।


वीडियो देखना: OpenAI GPT-3: Beginners Tutorial (जुलाई 2022).


टिप्पणियाँ:

  1. Marilynn

    क्या महान सवाल है



एक सन्देश लिखिए