راجانز سامداني الفوركس

توقعات موحدة تعظيم راجانز سامداني العمل المشترك مع مينغ وي تشانغ (بحوث مايكروسوفت) وجامعة دان روث من إلينوي في أوربانا شامبين. عرض حول موضوع: موحد توقعات تعظيم راجانز سامداني العمل المشترك مع مينغ وي تشانغ (بحوث مايكروسوفت) وجامعة دان روث من إلينوي في أوربانا شامبين. بادج 1 ناكل 2012، مونتريال 2 التعلم الخاضع لإلشراف الضعيف في البرمجة اللغوية العصبية تعتبر البيانات المصنفة نادرة ويصعب الحصول عليها) وهناك الكثير من العمل على التعلم مع كمية صغيرة من البيانات المسمى الخوارزمية تعظيم التوقعات (إم) هو المعيار الفعلي في الآونة الأخيرة: عمل كبير على حقن ضعف الإشراف أو المعرفة المجال عن طريق القيود في إم التعلم القائم على التقييد (كودل تشانغ وآخرون، بادج 2 3 التعلیم الضعیف: إم وتوجد عدة أنواع من إم في الأدب. هارد إم المتغيرات المقيدة إم: كودل والعلاقات العامة الإصدار الذي يستخدم: إم (بيأر) مقابل الصعب إم (كودل). أو هل هناك شيء أفضل هناك مساهمتنا: إطار موحد لخوارزميات إم، الموحدة إم (إيم) يشمل خوارزميات إم القائمة اختيار خوارزمية إم الأنسب بطريقة بسيطة، على التكيف، ومبدئي التكيف مع البيانات، التهيئة، والقيود صفحة بادج 4 5 التنبؤ بالهياكل في البرمجة اللغوية العصبية التنبؤ بالمخرجات أو المتغير التابع y من حيز المخرجات المسموح بها Y المدخلات المعطاة (Y) المدخلات المعطاة متغير x باستخدام المعلمات أو ناقلات الوزن ث على سبيل المثال التنبؤ بعلامات نقاط البيع التي تعطى جملة، والتنبؤ بمحاذاة الكلمات نظرا للجملتين في لغتين مختلفتين، والتنبؤ بهيكل العلاقة بين الكيان من وثيقة تم التعبير عنها على أنها y أرغماكس y 2 يب (يكسو) بادج 5 6 التعلم باستخدام إم: : x، تقدير w مخفي: y ل t 1 t القيام e: الخطوة: تقدير التوزيع الخلفي، q، فوق y. م: خطوة: تقدير المعلمات w w. r.t. ف. (x) t (q) y (q) y q لوغ P (x، يو) (q) y (q) y q لوغ P (x، y) (نيل و هينتون، 99 ) التوزيع الشرطي لل y المعطى التوزيع الخلفي 7 النسخة الأخرى من إم: هارد إم المعيار إم الخطوة E: أرغمين q كل (كت (y)، P (يكسو t)) M-ستيب: أرماكس w e q لوغ P (x ، يو) هارد إم الخطوة E: M-ستيب: أرغماكس w E q لوغ P (x، يو) بادج 7 q y y أرغماكس y P (يكس، w) ليس واضحا الإصدار الذي تريد استخدامه. 8 القيود المفروضة على المعرفة يمكن أن تساعد المعوقات القائمة على المعرفة في مجال المعرفة كثيرا من خلال توجيه التعلم غير الخاضع للرقابة (تشانغ إت آل، 07)، والتدريس اللاحق (غانشيف إت آل، 10)، ومعيار التنبؤ المعمم (مان مكالوم، 08) قياسات (ليانغ وآخرون، 09) تفرض القيود على y (كائن منظم) لتحديد مجموعة الهياكل المسموح بها Y تحديد مدى العلاقة بين الكيانات: نوع القيود توقع أنواع الكيانات: لكل، لوك، المؤسسة، وما إلى ذلك التنبؤ إلخ. أنواع قيود العلاقة بين الكيانات زوجة دول، إليزابيث، مقيمة في نك E 1 E 2 E3 R 12 R 23 بادج 9 الحياة في لوكبر 10 محاذاة الكلمات ثنائية اللغة: قيود الاتفاق محاذاة الكلمات من الجمل في إن مع الجمل في فر الاتفاقية القيود: المحاذاة من إن-فر يجب أن تتفق مع المحاذاة من فر-إن (غانشيف وآخرون، 10) الصورة: مجاملة لاكوست-جوليان وآخرون 10 11 التنبؤ المنظم قيود القيود التمثيل كما والقيود الخطية: Y التمثيل العالمي (روث و ييه، 07) يمكن تخفيفها إلى قيود التوقعات على الاحتمالات الخلفية. بادج 11 12 التخطيط اإلضافي) غانشيف إت آل، 10 (E-ستيب: أرغمين q كل) كت (y، P) يكسو t (E q إي b M - m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m E ث) أي ب ليس واضحا أي إصدار للاستخدام. بادج 12 13 كيف يمكننا أن نتعلم إم (بيأر) مقابل الصعب إم (كودل) غير واضح أي إصدار من إم لاستخدام (سبيتكوفسكي وآخرون، 10) هذه هي النقطة الأولى من بحثنا نقدم عائلة من خوارزميات إم التي تتضمن هذه الخوارزميات إم (والعديد من الخوارزميات إم الجديدة بلا حدود): تعظيم التوقعات الموحدة (إيم) يتيح لنا إيم اختيار أفضل خوارزمية إم بطريقة مبدئية بادج 13 14 مخطط الخطوط العريضة وتوقعاته القصوى (إم) وخوارزمية الحدس المثلى لتجارب الخطوة اإللكترونية بادج 14 15 الدوافع: تعظيم الحد األقصى للتوقعات) إم (و إم إم) كودل (يختلفان في الغالب في إنتروبيا للتوزيع الخلفي إيم يلحظ إنتروبيا للتوزيع الخلفي q (y، y)) q (q، p) y y (y) لوغ q (y) q (y) يحد من دلالة كل-ديفرجانس كل (q، p (y شو) لوغ p (y) يغير إيم الخطوة E من المعيار إم ويقلل من الاختلاف الكلوي المعدل كل (q، P (y شو)) حيث كل (q، p) y q (y) لوغ q (y) q (y) لوغ p (y) قيم مختلفة. خوارزميات إم مختلفة يغير انتروبيا من ون إميد (إيم) الخلفي بادج 16 17 تأثير تغيير التوزيع الأصلي يا مع 1 q مع 0 q مع 1 q مع -1 كل (q، p) y (y) لوغ q ( (y) لوغ p (y) 18 توحيد خوارزميات إم الحالية بادج 18 لا قيود على القيود كل (q، p) y (y) سجل q (y) q (y) لوغ p (y) هارد إم كودل إم (q)، y (y) سجل q (y) q (y) لوغ q (y) q (y) لوغ q (y) q (y) لوغ q p (y) 01 من الصعب إمم برلب تقريبا إلى كودل (جديد) ونحن نركز على ضبط في مجموعة 0،1 بلا حدود العديد من خوارزميات إم جديدة 20 ضبط في الممارسة أساسا الإيقاعات الانتروبيا من الخلفي للتكيف بشكل أفضل مع البيانات، التهيئة، الخ نحن لحن باستخدام كمية صغيرة من البيانات التنمية على نطاق إيم لتعسفية في مجموعتنا من السهل جدا لتنفيذ: رموز إمبرهارد إمبرهارد القائمة يمكن أن يكون بسهولة إكست ندد لتنفيذ إيم بادج 21 المخطط التفصيلي إعداد المشكلة التوحيد الموحد التوقعات حل الخوارزمية المعتمدة على ثنائي القاعدة لاغرانج ذات القاعدة المزدوجة توحيد خوارزميات القائمة القائمة مقيدة بادج 21 22 الخطوة الإلكترونية المقيدة ل 0) محدب بادج 22 النطاق الخطي القائم على المعرفة بالنطاق المعوقات - الاختلاف الكمي للكلار المعياري قيود الاحتمال البسيط المعياري 23 1 إدخال متغيرات مزدوجة لكل عائق 2 صعود التدرج الفرعي على قناتين مزدوجتين مع أو q يي b 3 حساب q بالنسبة إلى 0، حساب 0، استنتاج ماب غير المقيد: الخطوة E المقيدة ل q (y) إيترات حتى التقارب 0، حساب مع 0، غير مقيدة استنتاج ماب: بادج 23 حل الخطوة الإلكترونية المقيدة ل q (y) تتغير حتى عنوان التقارب 1 إدخال متغيرات مزدوجة لكل القيد 2 التدرج الفرعي التدرج على قناتين مزدوجتين مع أو q يي b 3 حساب q بالنسبة إلى 0، حساب 0، استنتاج ماب غير مقيد: بادج 23 حل الخطوة E المقيدة فو (y) إنتيرات حتى التقارب 24 بعض خصائص تحسين خطوتنا الإلكترونية نحن نستخدم ثنائي التوقع الفرعي التدرج الخوارزمي الصاعد (بيرتسكاس، 99) يتضمن معوقات عدم المساواة بالنسبة للحالات الخاصة حيث يتم ربط اثنين (أو أكثر) من المشاكل سهلة عبر القيود ، ويقلل من التحلل المزدوج ل 0: تحلل مزدوج محدب على نماذج فردية (على سبيل المثال همس) متصلة عن طريق المتغيرات المزدوجة 1: التحلل المزدوج في التنظيم الخلفي (غانشيف إت آل، 08) ل 0: لاغرانج التحلل الاسترخاء ل إلب المستعصية الصلبة (كو وآخرون، 10 راش وآخرون، 11) بادج 24 0: (غانشيف إت آل، 08) ل 0: لاغرانج ريسولوتيوندوكال التحلل من الصعب إلب الاستدلال (كو وآخرون، 10 راش وآخرون، 11) صفحة 24 25 الخطوط العريضة إعداد المشكلة مقدمة في التوقعات الموحدة تعظيم خوارزمية التحسين المزدوج القائم على لاغرانج لتجارب الخطوات الإلكترونية نقاط البيع استخلاص العلاقة بين الكيانات استخلاص كلمة المحاذاة بادج 25 26 التجارب: استكشاف دور الاختبار إذا ساعد ضبط الأداء على تحسين الأداء على خطوط الأساس دراسة العلاقة بين جودة التهيئة و (أو صلابة الاستدلال) مقارنة مع: التنظيم اللاحق (بيأر) يتوافق مع 1.0 ليرنين المقيدة g) كودل (يتوافق مع - 1 بادج 26 27 نموذج وضع علامات نقاط البيع غير الخاضعة للرقابة كالمرتبة األولى همم حاول الصفات المتغيرة للتهيئة: التهيئة املوحدة: تهيئة مع احتمالية متساوية لجميع الدول اإلشراف على التهيئة: تهيئة مع معلمات مدربة على كميات متفاوتة من البيانات املشمولة اختبار الحكمة التقليدية التي تعمل بشكل جيد مع التهيئة الجيدة و إم يعمل بشكل جيد مع التهيئة الضعيفة بادج 27 28 وضع علامات بوس غير الخاضعة للرقابة: إيماجيتيونس إم مختلفة التهيئة الموحدة التهيئة مع 5 أمثلة التهيئة مع 10 أمثلة التهيئة مع 20 أمثلة التهيئة مع الأمثلة الأداء النسبي ل إم هارد إیمیم بادج 28 29 التجارب: استخراج الکیانات والعلاقات استخراج أنواع الکیانات (علی سبیل المثال لوك، أورغ، بير) وأنواع العلاقة (على سبيل المثال ليفس-إن، أورغ-باسد-إن، كيلد) بين أزواج الكيانات إضافة القيود: نوع القيود بين الكيان والعلاقات عدد المعوقات المتوقعة لتنظيم عدد التعدادات لا يوجد علاقة التعليم شبه الخاضع للإشراف مع کمیة صغیرة من البیانات التي تحمل علامة بادج 29 زوجة دول، إليزابيث، مقیمة في نك E 1 E 2 E3 R 12 R 23 31 التجارب: محاذاة ورد محاذاة الكلمة من لغة S إلى اللغة T نحاول إن-فر و إن - أزواج نحن نستخدم نموذج القائم على هم مع قيود اتفاق لمحاذاة كلمة العلاقات العامة مع قيود الاتفاق المعروفة لإعطاء تحسينات ضخمة على هم (غانشيف إت al08 غراسا إت al08) استخدام خوارزمية فعالة لتحلل خطوة E إلى همز الفردية بادج 31 37 ملخص التجارب في بيئات مختلفة، تعمل خطوط الأساس المختلفة بشكل أفضل على استخلاص الكيان للعلاقة: كودل أفضل من بيأر محاذاة ورد: بيأر أفضل من كودل غير الخاضعة للرقابة بوس: يعتمد على التهيئة إيم يسمح لنا باختيار الأفضل آل غوريثم في كل هذه الحالات أفضل نسخة من إم: نسخة جديدة مع 0 38 الموحدة إم: ملخص إيم يعمم الاختلافات الموجودة من إم إمسترايند إم إيم يوفر خوارزميات إم جديدة المعلمة من قبل معلمة واحدة كفاءة مزدوجة المتوقعة تقنية صعود متحضر لدمج القيود في إيم و أفضل يتوافق مع لا إم (بيأر) ولا الصعب إم (كودل) وجدت من خلال إطار إيم ضبط التكيف بشكل مناسب الانتروبيا من إيم الخلفي من السهل تنفيذ: إضافة بضعة أسطر من التعليمات البرمجية رموز إم الحالية بادج 38 كيستيونسكاي-وي تشانغ ، راجانز سامداني، ألا روزوفسكايا، نيك ريزولو، مارك سامونز، دان روث كونل شاريد تاسك 2011 تعرض هذه الورقة إلينوي-كورف، نظاما لحل القرار الذي شارك في المهمة المشتركة ل كونل-2011. نحن التحقيق في اثنين من أساليب الاستدلال، أفضل وصلة وكل رابط، جنبا إلى جنب مع بروتوكولات التعلم المقابلة، زوجي ومنظم. ضمن هذه، ونحن نقدم بنية مرنة لدمج القيود بدوافع لغوية، العديد منها قمنا بتطويرها ودمجها. نقارن ونقيم النهج الاستدلال ومساهمة القيود، وتحليل أخطاء النظام، ومناقشة التحديات في حل الأساسية لمجموعة البيانات أونتونوتس-4.0.