Lessons from the Text-to-Text Transformer (T5) ablation studies

Reading the T5 paper was a pleasure for me and has helped me learn a great deal.

The paper was written in a way that’s easy to understand and follow. It used a long-format style (44 pages) and this has allowed the authors to explain things in detail.

And most importantly, its explicit focus was to do ablation studies to shed a clear light on what works and what doesn’t, pointing the way for future explorations.

A quick intro to T5

  • The framing as text-to-text enables it to solve both generation and classification problems using an exact same encoder-decoder architecture, and without the need for using different “heads” for different problems (like what was used with BERT).  This is a really cool and ambitious problem modelling. To instruct the model on what to perform, a prefix is added to the input to signal what’s expected in the output (Ex: “translate English to German: <input>”)
  • In pretraining, the dropped-out tokens can be phrases (multiple continguous words); vs BERT: dropping out single words.

Below is a non-exhaustive list of key ablation studies in the paper. Continue reading Lessons from the Text-to-Text Transformer (T5) ablation studies

Hướng dẫn học lập trình trí tuệ nhân tạo (AI) cho người mới bắt đầu

Translate this page:

Trong thời gian vừa qua, tôi bắt đầu học Deep learning, hướng đi mới của trí tuệ nhận tạo (AI) trong thập kỷ vừa qua.

Với kinh nghiệm tự học và làm các projects AI ứng dụng trong ngoại ngữ cùng nền tảng nhiều năm kinh nghiệm trong ngành IT, tôi nghĩ mình có thể chia sẻ một số trải nghiệm để giúp các bạn đang có ý định bắt đầu lập trình AI có thể thấy được một lộ trình học rõ ràng hơn và qua đó tạo ra động lực để giúp bạn bắt đầu.

Continue reading Hướng dẫn học lập trình trí tuệ nhân tạo (AI) cho người mới bắt đầu

A Transformer model for inserting Vietnamese accent marks

Updates:

  • This model can now be downloaded from HF here.
  • A live demo is also available here.

 

In this post, I summarize how I made use of Huggingface’s transformer library to re-solve an NLP problem related to the Vietnamese language.

The problem

After learning about Hidden Markov models about 10+ years ago, I decided to apply it to building a small, but practical, toy that can auto insert accent marks for Vietnamese language.

In a nutshell, Vietnamese has some letters that have additional marks put on them. For ex, in addition to the letter ‘a’, the Vi alphabet also contains these “marked versions”: ă, â.

And for each of these 3  versions (a, ă, â), we can then put the 5 tones on them. An example for ‘ă’ will be:  ắ (acute),  ằ (grave), ẳ (hook), ẵ (tilde), ặ (dot).

Continue reading A Transformer model for inserting Vietnamese accent marks

A few notes on Items Response Theory (IRT) and Computerized adaptive testing

Recently, I was thinking about how to improve the accuracy of assessment tests for ESL learners and so I googled and found Computerized Adaptive Testing (CAT).

During the process, I accidentally discovered an interesting theory behind it. It’s called Items Response Theory or IRT for short.

So I’ve spent some time reading up about it and in the process, picked up a few very useful bits about statistical hypothesis testing, which I’m very glad to have learned.

Below, I share the most important ideas about IRT that I’ve learned.

Continue reading A few notes on Items Response Theory (IRT) and Computerized adaptive testing

2 interesting points from Andrew Ng’s interview with Geoffrey Hinton

In this interview in a Coursera course by Andrew Ng with Geoffrey Hinton, who according to Ng is one of the “Godfathers of Deep learning”, I found 2 points that were quite interesting and thought-provoking.

On research direction

When asked about his advice for grad students doing research, Hinton said, at about 30 mins in:

Continue reading 2 interesting points from Andrew Ng’s interview with Geoffrey Hinton

Những tiến triển của Trí tuệ nhân tạo (AI) đến hết 2017

Trí tuệ nhân tạo (Artificial Intelligence – AI) đang trở nên rất hot trong những năm gần đây nhờ vào những tiến triển mới thông qua phương pháp Deep Learning (“Học sâu”).

Trí tuệ nhân tạo (AI)
Trí tuệ nhân tạo (AI). Nguồn: Google Image

Trong bài viết này, tôi tóm tắt lại những điểm chính trong report của AIIndex.org về những tiến triển mới nhất của AI tính đến tháng 11/2017.

Có 3 mục chính mà chúng ta sẽ điểm qua, bao gồm:

  1. Khối lượng các hoạt động
  2. Tiến triển về kĩ thuật
  3. Tiến về một khả năng tương đương con người?

Continue reading Những tiến triển của Trí tuệ nhân tạo (AI) đến hết 2017