Публикации по теме 'entropy'


Упрощение дерева решений в машинном обучении
Один из самых популярных и используемых алгоритмов машинного обучения Это одна из самых простых и базовых моделей машинного обучения, которую можно использовать как для классификации, так и для регрессии. Давайте углубимся в понимание дерева решений в нашем знакомом стиле вопросов и ответов. У нас также есть видео-лекция по теории здесь и практическое использование python здесь . Каковы компоненты дерева решений? Основные составляющие: а ) Корневой узел: обычно в этом..

Вопросы по теме 'entropy'

Насколько случайна случайность?
В Linux насколько случайным является /dev/urandom/ ? Это считается безопасным? Также возможно ли получить поток 1-х?
2151 просмотров
schedule 14.06.2023

Сбор энтропии в веб-приложениях для создания (более) безопасных случайных чисел
после нескольких дней исследований и обсуждений я придумал этот метод для сбора энтропии посетителей (вы можете увидеть историю моего исследования здесь ) когда пользователь посещает, я запускаю этот код:...
2331 просмотров

Странный вывод при поиске энтропии кадров видео в opencv
#include <cv.h> #include <highgui.h> #include <iostream> #include <cmath> #include <cstdlib> #include <fstream> using namespace std; typedef struct histBundle { double rCh[256]; double gCh[256]; double bCh[256];...
1447 просмотров

Ищем одностороннюю функцию с небольшим входом и длинным выходом
Я ищу алгоритм, который является односторонней функцией, такой как хеш-функция. И алгоритм принимает небольшой ввод (серверные биты, менее 512 бит) и сопоставляет его с длинным выходом (1 КБ или более). Вы знаете алгоритм или функцию, подобную этой?
170 просмотров
schedule 16.07.2022

оценка энтропии с использованием гистограммы нормальных данных и прямой формулы (matlab)
Предположим, мы нарисовали n=10000 образцов стандартного нормального распределения. Теперь я хочу рассчитать его энтропию, используя гистограммы для расчета вероятностей. 1) рассчитать вероятности (например, с помощью Matlab) [p,x] =...
3572 просмотров
schedule 29.05.2022

Понимание энтропии Шеннона набора данных
Я читаю Machine Learning In Action и просматриваю главу о дереве решений. Я понимаю, что деревья решений построены таким образом, что разделение набора данных дает вам возможность структурировать свои ветви и листья. Это дает вам более вероятную...
3132 просмотров

Энтропия изображения с использованием его pdf
Для данного изображения Img я вычислил его энтропию и получил тот же результат, что и функция энтропии MATLAB. hist_img = hist(Img(:),256); pdf_img = hist_img./sum(hist_img); H_pdf = sum(pdf_img.*log2(1./pdf_img)) H_test = entropy(input_img)...
236 просмотров
schedule 01.02.2023

Правильное добавление источника энтропии в генератор случайных чисел
Мне поручили сделать генератор случайных чисел для встраиваемой системы. На данный момент источниками энтропии, которые я использую, являются ввод с клавиатуры и другие переменные, такие как мощность сигнала и уровень заряда батареи. Я использую...
1806 просмотров
schedule 22.08.2023

Энтропия последовательностей
Могут ли мне помочь исправить мой код? У меня есть 3 последовательности seq1='AATC' seq2='GCCT' seq3='ATCA' Я хочу вычислить энтропию трех последовательностей, ее формула: Entropy (A[:][i])= - ∑ p_ia log( p_ia) p_ia = C_ia /∑ C_ia'...
1174 просмотров
schedule 16.11.2022

Функции создания случайных данных с высокой энтропией?
Существуют ли функции, которые производят «бесконечное» количество данных с высокой энтропией? Более того, существуют ли функции, которые раз за разом выдают одни и те же случайные данные (последовательно)? Я вроде знаю, что они существуют, но...
257 просмотров
schedule 20.07.2023

Энтропия чистого расщепления в пересчете на NaN
Я написал функцию для вычисления энтропии вектора, где каждый элемент представляет количество элементов класса. function x = Entropy(a) t = sum(a); t = repmat(t, [1, size(a, 2)]); x = sum(-a./t .* log2(a./t)); end например: a =...
374 просмотров
schedule 22.05.2022

Как получить значение энтропии любого входного файла?
Есть ли в C# встроенные методы, которые вычисляют entropy , или есть какая-то формула, которую я могу использовать? Я осмотрелся, но ничего не нашел относительно энтропии файлов C #. Дополнительная информация: У меня есть mean , median ,...
200 просмотров
schedule 02.01.2023

Почему я получаю отрицательный прирост информации?
[РЕШЕНО] Моя ошибка заключалась в том, что я не понимал, что энтропия равна 0, если все они одного типа. Таким образом, если все положительные, энтропия равна 0, а если все отрицательные, то она также равна нулю. Энтропия будет равна 1, если...
3817 просмотров
schedule 03.03.2024

Вычислить объем под графиком двумерной оценки плотности ядра
Мне нужно рассчитать меру, называемую взаимной информацией. Прежде всего, мне нужно вычислить другую меру, называемую энтропией, например, совместную энтропию x и y: -∬p(x,y)·log p(x,y)dxdy Итак, чтобы вычислить p(x,y) , я использовал...
1134 просмотров
schedule 07.06.2024

Matlab: путаница в отношении единицы энтропии для использования в примере
Рисунок 1. График гипотез. Ось y: средняя энтропия. ось x: биты. Этот вопрос является продолжением предыдущего вопроса Matlab: график энтропии против длина оцифрованного кода Я хочу вычислить энтропию случайной величины, которая...
273 просмотров
schedule 15.05.2024

Начальная производительность и надежность от urandom
#!/bin/bash seed1=0 seed2=0 while [[ "$seed1" == 0 || "$seed2" == 0 ]]; do seed1=$(head -c 4096 /dev/urandom | tr -dc '0-9' | fold -w 16 | head -n 1) seed2=$(head -c 4096 /dev/urandom | tr -dc '0-9' | fold -w 16 | head -n 1) done...
86 просмотров
schedule 27.01.2023

Энтропия спектра больше 1
Я пытаюсь рассчитать спектральную энтропию массива следующим образом: array([0.00000000e+00, 1.00743814e-04, 2.01487627e-04, 2.20497985e+01, 2.20498993e+01, 2.20500000e+01]) Из этого я получил свой код. однако я обнаружил, что мои...
447 просмотров
schedule 04.11.2023

Все веса после тренировки становятся отрицательными
Делаю нейронную сеть. Результат тренировки для всех пар равен 0 или 1. Я заметил, что если я добавлю только одну тренировочную пару с целевым результатом «1» и 9 других пар с «0», все мои веса после тренировки станут отрицательными, однако, если Я...
167 просмотров

Как получить действительно случайные данные, а не случайные данные, подаваемые в семя ГПСЧ, как это делают CSRNG?
Насколько я понимаю, CSRNG, например RNGCryptoServiceProvider по-прежнему передает действительно случайные пользовательские данные, такие как движение мыши и т. д., через ГПСЧ, чтобы вроде как очистить вывод и обеспечить его равное распределение....
263 просмотров
schedule 20.05.2023

Ограничение плотности дискретных точек (LDDP) в питоне
Энтропия Шеннона из теории информации измеряет неопределенность или беспорядок в эмпирическом распределении дискретной случайной величины, тогда как дифференциальная энтропия измеряет ее для непрерывной случайной величины. Однако классическое...
212 просмотров
schedule 09.08.2023