Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

TUKRの実装@德永 #17

Open
wants to merge 18 commits into
base: main
Choose a base branch
from
Open

TUKRの実装@德永 #17

wants to merge 18 commits into from

Conversation

YukiTokunaga
Copy link
Contributor

@YukiTokunaga YukiTokunaga commented May 18, 2022

minimum

  • 関係データについて理解し、関係データとは何か説明できる。
  • TUKRのタスク設定について理解し、数式やアルゴリズムの各ステップを説明できる。
  • data_scrach.pyの穴埋めを行い関係データの人工データを作成する。
  • UKRの実装ファイルを改良してTUKRを実装する。

standard

  • 欠損データを実装する
  • 手動微分で実装する。
  • 描画方法を変更する
  • クロステストの実装
  • 実データでの実装。(動物データやNIPSデータなど)

extra

  • 手動微分を数式的に導くことができる。

@YukiTokunaga
Copy link
Contributor Author

tmp.mp4

とりあえず実装したけど、変な感じだよー

sv = jnp.sum((V[:, None, :]-self.V[None, :, :])**2, axis=2)
ku = self.kernel(su)
kv = self.kernel(sv)
f = jnp.einsum('il,kj,ijd->ijd', ku, kv, self.X)/jnp.einsum('ii,jj->ij', ku, kv).reshape(nb_samples1, nb_samples2, 1)
Copy link
Contributor

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

この分母einsumあるあるミステイクしてる.
einsum('ii', ku)って定義すると,kuの対角成分をもってくることになる.

@TetraMiyazaki
Copy link
Contributor

あとPullRequのタイトルなおしといて.

@YukiTokunaga YukiTokunaga changed the title 初回 德永@TUKRの実装 May 19, 2022
@YukiTokunaga YukiTokunaga changed the title 德永@TUKRの実装 TUKRの実装@德永 May 19, 2022
@YukiTokunaga
Copy link
Contributor Author

iikanzi.mp4

いい感じに動いたよー

@TetraMiyazaki
Copy link
Contributor

データの生成にnp.linspaceはどんな確率分布にもなってないので,なにかしらランダムな分布にしといてね

@YukiTokunaga
Copy link
Contributor Author

random.mp4

データ生成の分布を一様分布にしてやってみたよー

@TetraMiyazaki
Copy link
Contributor

image
なんやねんこいつ

@YukiTokunaga
Copy link
Contributor Author

recode_iikanzi.mp4

レコード型とりあえずやってみたよー

@TetraMiyazaki
Copy link
Contributor

全然多様体描画できてないよ~

潜在空間のカラーマップできてないよー
@YukiTokunaga
Copy link
Contributor Author

record_colormap_dekitenai.mp4

レコード型の多様体描画できるようにしたよー
でもカラーマップは上手くできてないよー

@TetraMiyazaki
Copy link
Contributor

TetraMiyazaki commented May 27, 2022

でもカラーマップは上手くできてないよー

そもそもどういう色付けをしたいんですか?
UKRのときの色付けに引っ張られないほうがよくて,根本から考えた方がよさそうです.

@TetraMiyazaki
Copy link
Contributor

関係データについて理解し、関係データとは何か説明できる。
TUKRのタスク設定について理解し、数式やアルゴリズムの各ステップを説明できる。

これとっとと終わらしてミニマム終わらせましょう.
で,次は 描画方法を変更する.のConditional Component Planeを使うのを優先しましょう.visualizerのほうのprojectがあるためです.

@YukiTokunaga
Copy link
Contributor Author

YukiTokunaga commented May 27, 2022

Given
$\mathbf{X} = (\mathbf{x_{ij}})^{I,J}_{i,j=1}$

$\mathbf{x}_{ij} \in \mathbf{R}^D$

Estimate
潜在変数
$\mathbf{U} = (\mathbf{u_{i}})^{I}_{i=1}$

$\mathbf{u}_{i} \in \mathbf{R}^{L1}$

$\mathbf{V} = (\mathbf{v_{j}})^{J}_{j=1}$

$\mathbf{v}_{j} \in {R}^{L2}$

写像
$f: {R}^{L1} \times {R}^{L2} \rightarrow {R}^D$

$ (\mathbf{u_{i}}, \mathbf{v_{j}}) \mapsto \mathbf{x_{ij}}$

@TetraMiyazaki
Copy link
Contributor

somfのCCPは動きましたか?

Copy link
Contributor

@TetraMiyazaki TetraMiyazaki left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

こうみると全然色がなめらかに変わってないから全然ちゃんと学習してるかわからないです
image

    colormapx = X[:, 0]
    colormap1 = X[X_num[:, 1] == 0][:, 0]
    colormap2 = X[X_num[:, 0] == 0][:, 0]

@YukiTokunaga
Copy link
Contributor Author

somfのCCPは動きましたか?

まだできてないです。

@TetraMiyazaki
Copy link
Contributor

正味組まなくてもいいから,somfのでtutorialいいから色々実行してこういう解析できるんやっていう感覚をもってくれたほうがよさそう.結局UKRとかTUKRはあくまでも道具なので.

@hirowatari-s hirowatari-s removed their request for review June 12, 2023 06:19
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

Successfully merging this pull request may close these issues.

2 participants